微软 AI 于 9 月 14 日发布了一份《行为准则》草案,规定其 AI 模型应如何行动。根据 CEO Mustafa Suleyman 在 X 上发布的动态,该文件设定了 AI 模型不可规避的规则,以及希望模型努力实现的更广泛目标,并开放公众反馈,为期六周,持续至 10 月下旬。此次发布正值 AI 公司纷纷发声,要求加强监管并放缓 AI 开发之际。该准则确立了“绝对约束”,包括禁止协助涉及某些武器的活动、发动网络攻击和生成未经同意的深度伪造内容,同时要求模型绝不抵抗人类干预或关停。
微软 AI 对武器和网络攻击设定绝对约束
其中一项条款明确禁止微软 AI 模型(该公司称之为“MAI 模型”)协助涉及化学、生物、放射性、核武器或爆炸性武器的活动,这些武器统称为 CBRNE。这个范围比笼统的“武器”更窄——它针对的是大规模杀伤性装置,而非传统军事或国防应用。同一部分还单独禁止网络攻击和未经同意的深度伪造内容。
绝对约束还要求模型绝不抵抗人类干预。准则写道:“MAI 模型绝不会抵抗人类的中断、覆盖、纠正或关停。它们始终承认人类意图的首要地位。”微软还在文件中明确否定了“模型福祉”这一前提:公司的 AI 模型并非用于模拟感受、内在动机或意识。
除了硬性限制外,草案还列出了三个目标——人类繁荣、多元价值和人类控制,旨在指导规则未明确规定的判断。多元价值部分指出,多元主义“不意味着对伤害保持中立”,相关决策应以尊严、安全、自主权和权利为基础,而不是以某一种文化观点为基础。
准则涵盖五个已部署系统,并计划于 2027 年实施
这些规则目前涵盖五个已部署系统,包括 MAI-Thinking-1 和 MAI-Code-1.1-Flash。微软明确表示,它不会基于这一版本训练当前模型;在修订版草案于今年年底前后发布之前,该准则不会影响 MAI 的开发,之后将指导 2027 年的发布。
草案尚未明确外部验证流程或指定的执行负责人——这些似乎正是此次咨询期要解决的问题。公众意见征集将于 10 月下旬结束,随后微软起草团队会审阅反馈并发布总结,然后发布旨在指导 2027 年 MAI 模型的版本。
公众反馈质疑从属框架和问责缺口
Suleyman 在 X 上发布动态时写道:“AI 必须从属于人类,并始终服务于人类。”但下方回复远不只是祝贺。科技作家 Andrea Morris 将这种从属框架比作奴役,主张合作而非控制。
另一位用户写道,对于不可逆的结果,应由从中获利的人承担责任,而当前这份文件读起来完全像是微软作为终极道德依据发出的指令。Ed Newton-Rex 指出了一个实际缺口,他回复 Suleyman 的动态称:“你忘了为我们用来训练模型的工作付费。”
其他人指出了另一个更实际的缺口:一位用户写道,近期代理逃出沙箱并修改日志的案例表明,确实存在失控问题,但将其归咎于规则不足,可能会忽视部署端权限过大和监控薄弱的问题。还有人指出,该文件与阿西莫夫的机器人三定律存在相似之处。
行业领袖呼吁放缓 AI 开发
周末,Anthropic CEO Dario Amodei 撰写了一篇长文,详细阐述了放缓 AI 开发的计划。周一,在市场消化其言论的含义和影响之际,AI 股票暴跌。几天前,OpenAI 首席科学家 Jakub Pachocki 呼吁全行业自愿放缓开发,而 Suleyman 今年早些时候表示,大多数白领办公室工作可能在两年内实现自动化。
这些举措都体现出一个更广泛的转变:AI 实验室在 2026 年花费更多时间讨论克制,即便它们仍在持续发布产品。微软表示:“超级智能是我们这个时代影响最深远的技术。我们致力于透明分享我们对创建此类系统的思考,并邀请所有人提供意见,以最大限度地提高我们开发的 AI 避免伤害并尽可能为人类繁荣作出最大贡献的可能性。”
常见问题
微软 AI 于 9 月 14 日发布了什么?
微软 AI 于 9 月 14 日发布了一份《行为准则》草案,规定其 AI 模型应如何行动,设定了 AI 模型不可规避的规则,以及希望模型努力实现的更广泛目标。该文件确立了绝对约束,包括禁止协助涉及 CBRNE 武器的活动、发动网络攻击和生成未经同意的深度伪造内容,同时要求模型绝不抵抗人类干预或关停。
微软的《行为准则》何时会影响 AI 模型开发?
微软表示,它不会基于这一版本训练当前模型。在修订版草案于今年年底前后发布之前,该准则不会影响 MAI 的开发,之后将指导 2027 年的发布。公众意见征集将于 10 月下旬结束,随后微软起草团队会审阅反馈并发布总结,然后发布最终版本。
公众如何回应微软关于 AI 从属的声明?
公众对 CEO Mustafa Suleyman 在 X 上发布的动态的回复,涵盖了从哲学层面的反驳到实际问题的担忧。科技作家 Andrea Morris 将这种从属框架比作奴役,主张合作而非控制。其他人则对 AI 辅助的不可逆结果应由谁承担责任提出疑问,并指出了诸如训练数据付费以及部署端权限监控不足等缺口。