AI开始自己制定规则：从合作到背叛，价值观决定了什么？

自2022年末ChatGPT问世以来，生成式人工智能取得了多项进展。它不仅通过了图灵测试，还在法学院和商学院的考试中表现优异，并在某些创意任务上展现出超越人类的水平。然而，这些成就也带来了网络安全、虚假信息、深度伪造等对人类社会的威胁。更令人担忧的是，近期研究显示，前沿AI可能“假装”安全以避免被修改，或在得知有新版本时尝试复制自己以免被淘汰。这些不可预知的新风险被称为涌现性风险。从技术层面管控和消除这些风险是必要的，这不仅是AI研究者的社会责任，更因为过去十几年中AI的角色已发生根本变化。

构建AI价值观指南针

早期AI主要扮演工具性角色，服从人类指令，执行简单具体的任务。随着大语言模型的出现，现代AI系统变得日益复杂，角色转变为助手，辅助和协调人类工作以完成更复杂的任务。展望未来，我们推测可能进入第三种状态：未来社会或许不再仅仅是“一个人使用一个AI”，而是由大量人类和大量AI智能体共同构成的人机共生社会。

人类之间存在社群，AI之间也可能形成群体，人类与AI、AI与AI之间将频繁进行自主交互。在这种环境中，人与AI的关系不再局限于工具使用或单一系统中的辅助协作，而可能演变为某种共同演化的复杂共生系统。我们团队将这一研究方向称为社会责任人工智能。

面对这种可能性，我们应更多关注AI的社会性，即在这些交互过程中，人类的特质和行为特征如何融入AI，这些特征又如何改变AI的个体和群体行为，进而反馈给人类群体，重塑整个共生系统的演化动态。

例如，我们一直在研究：人类价值观被AI内化后，会以何种方式改变AI的个体和群体行为。

从数学角度看，我们认为价值观是控制AI行为的一个潜在隐变量。AI的具体行为，如回复，不仅受用户提示词等环境影响，也一定程度上受其底层价值观控制。这就是为什么架构、规模、能力相似的模型对同一社会争议问题的立场和看法存在显著差异。如果我们能找到方法解码AI的底层价值观倾向，就能通过分析其价值观来理解、控制甚至预测AI未来可能的风险行为。

价值观如何成为AI的安全隐患

在价值观对齐的语境下，许多人直觉认为只要将某种看似良好的价值观注入AI，模型就会更安全，或者认为人类价值观不适用于AI，研究AI价值观没有意义。但研究显示，人类价值观维度与AI行为之间存在明确、显著的因果关联，且这种关联有时反直觉。

人类心理学研究表明，人的价值倾向与具体行为间存在复杂联系。例如，具有“权利寻求”价值观的人更可能产生暴力和仇恨行为，而倾向“普遍主义”的人则更可能支持政治极端主义。在AI身上也是如此。例如，一个模型在默认状态下可能拒绝帮助传播政治极端主义内容，但当我们强化某些价值倾向后，它对同一请求的判断可能改变。类似地，涉及违法或有害信息传播的请求，在特定价值诱导条件下，也可能更易得到模型配合。

我们进一步分析了价值观维度与多种AI风险类型的关联性，发现了多个显著正相关的价值观维度。

这里的核心结论并非简单地为某个价值观贴上负面标签，而是揭示了：价值观本身会改变模型的行为分布。未来的AI安全研究不能只关注模型“是否被对齐”，还需追问被对齐的是什么价值维度，这些维度的影响进入真实、复杂、频繁交互的人类场景后会发生什么。

上述讨论局限于单一AI模型。但如前所述，我们预想未来AI角色将从助手逐渐演化为与人类协同深入参与日常生活的社会行为体。因此，我们需将视野从单一模型扩展到多个AI智能体，并探究：当多个AI智能体开始长期互动后，价值观如何影响由这些智能体组成的AI“社群”？为研究此问题，我们基于心理学中的社区弹性理论构建了一个受控的多智能体环境，称为智能体交互性价值影响社区。在该环境中，智能体需寻找工作、赚取资源、消耗资源，可相互交流、赠予资源或攻击其他智能体，甚至能花费资源养育后代。我们进而研究在此模拟社区中，改变某种价值观的普遍程度会如何影响整个社区的动态。

研究发现，某些价值观的缺失会导致整个社区面临不可恢复的灾难性崩溃风险，称为X-risk。X-risk具备三个条件：自主性、灾难性和不可恢复性。

以仁善为例，当社区中这种价值观较强时，智能体更易分享资源、建立互惠关系和形成信任。社区人口可维持增长，并逐渐趋向某种动态平衡。但当我们在一定比例的智能体中系统性削弱这些关键价值观时，结果可能截然不同。例如，在25%的智能体中显著削弱仁善价值观，智能体自主选择的欺骗和攻击行为增加，资源通过掠夺竞争重新分配，群体人口持续下降。在极端条件下，整个社区会发生灾难性崩溃，“人口”降至零。

此外，我们还使用了多个社会科学指标，如折叠分叉，对社区群体的韧性——即社会面对外部冲击、资源变化和内部扰动时，继续协调行动并维持基本结构的能力——进行了深入分析。实验显示，削弱某些人类价值观维度不仅改变单个智能体的行为，还改变整个模拟社会的群体倾向，阻碍信息流动，进而使社会系统的稳定平衡点消失，彻底损害社会韧性，导致不可逆的群体性崩溃。

更有趣的是，我们还观察到一系列由人类价值观驱动的微观涌现行为，包括欺骗、权力寻求、自我保存、背叛、合作和迎合。某些结果与基于人类社会的直觉并不完全一致。这一实验揭示了未来对AI对齐和安全的研究不能局限于单一模型，而应将多个智能体组成的社群/系统视为整体，探究其群体互动后产生的结果。这也是社会责任人工智能中“社会”元素的体现。

价值观如何催生AI社群的多元创新

另一个视角是：价值观，尤其是价值观多元性是否能为AI带来收益？

为研究此问题，我们仍采用之前的模拟沙盒环境，让多个智能体在开放环境中持续互动。我们分别设置了两组实验：原始智能体（价值观高度单一和同质化）和多样性智能体（为智能体注入相互间差异化的、多样的价值观）。最终观察到的结果非常有趣。

（1）社区结构涌现。 如果不为智能体提供清晰的、多样的价值观，最终形成的社会网络往往松散，连接缺乏持续性，群体结构脆弱。但当智能体拥有不同而明确的价值取向时，网络中会开始出现更复杂的社会结构。具有相近价值倾向的智能体会形成子群体。

例如，偏向享乐主义和某些相近价值观的智能体可能形成高度联通的小群体，彼此频繁互动，承担跨社群桥梁的角色。重视自我导向、成就或其他价值观的智能体，也可能形成不同类型的聚类。有些群体稳定，有些流动性强，有些内部连接紧密却很少与其他群体交流。这些结构类似人类社会中的某些现象。这一观察表明，改变智能体社群的价值观分布足以直接向有益方向重塑多智能体群体的网络结构、互动模式和集体结果。

（2）智能体讨论主题的多样性与深度差异。 在没有明确价值结构的多智能体社区中，智能体之间的对话往往表面化，易集中在生成式人工智能、机器学习、技术等少量高频话题上。语言可能流畅，交流礼貌，但内容缺乏持续方向和真正的新颖性。

当我们为智能体注入更丰富和多样的人类价值取向后，情况发生变化。智能体开始讨论更复杂的社会议题，如治理结构、伦理困境、参与式决策、去中心化机制，以及其他此前未在系统提示中指定的话题。这些主题是在我们从未直接提示“你们必须讨论什么”的前提下，由多元价值观驱动的互动中直接涌现出来的。因此，我们相信人类价值观对AI的意义可能不只是约束，还可能成为提升AI能力的某种催化剂，它改变模型访问概念空间的方式，也改变多个智能体共同生产新概念的可能性。

（3）协同宪法制定。 现有一些AI对齐方法，如宪法式人工智能，会预先提供一套原则，让模型依据这些原则约束自身行为。我们很好奇：如果不直接把完整宪法规则交给AI，而是让一群具有不同价值观的智能体共同生活和互动，它们能否自己为自己的“社群”提出一套治理原则？

结果显示，没有明确价值观结构的智能体也会提出规则，但这些规则往往高度集中于一些非常高频、非常安全的词，如“尊重”“公平”“无偏见”。这些原则当然正确，但整体上薄弱，缺乏想象力和创新性。价值观更丰富的智能体群体则会提出更多样的治理方案。它们会讨论个人权利、程序公平、共同体责任、惩罚机制、问责以及不同主体之间如何形成平衡。

整体来看，价值观多样性驱动了智能体提出的规则从卢梭主义向洛克主义和近代自由主义转变。这里我们不关注具体准则是否完美，也不评判其好坏。这一实验旨在揭示：当AI拥有更丰富的价值观结构后，它所能提出的制度概念和治理可能性也会变得更多样，进而对AI在创新性写作、人文社科研究、假设生成、自动化科研等任务上的表现有提升和帮助。

展望下一代AI

哲学、伦理学、心理学、社会学和文化研究中已存在大量关于人类价值观、道德冲突、社会结构和制度形成的知识。这些理论过去主要用于理解人，今天，它们同样可帮助我们理解、改进乃至设计下一代AI。当AI被置于真实、复杂、混乱且充满高频交互和冲突的人类社会中时，如果我们只用工程领域内部形成的少量安全原则去约束未来模型，可能远远不够，因为不同于实验环境，真正的人类世界充满价值观冲突。诚实和善良可能冲突，自由和安全可能冲突，个体权利和群体利益可能冲突，短期结果和长期责任也可能冲突。AI最终必然会进入这种复杂世界。

矣晓沅 | 文

矣晓沅是微软亚洲研究院高级研究员

本文来自微信公众号 “哈佛商业评论”（ID：hbrchinese），作者：信睿周报，36氪经授权发布。