微软发布 1.5 万字 AI 行为准则,拒绝超级智慧竞赛。

MSFT+0.22%

关键要点

  • 微软于 9 月 14 日发布了一份包含 15,000 个单词的人工智能行为准则,拒绝支持可能绕过安全措施的超级智能竞赛。
  • 该准则确立了三项核心原则:不应赋予人工智能模型权利,不应允许其规避人类控制,也不应让其执行违反基本原则的任务。
  • 该准则还禁止多智能体人工智能模型篡改思维链,或使用超出人类理解能力的晦涩“神经语言”,以直接回应 OpenAI 与 Hugging Face 入侵事件。

彭博社 9 月 14 日报道,微软正式公布了人工智能(AI)开发的新原则——一份约 1.5 万字的宣言,作为指导尖端 AI 模型开发的“宪法”。这份文件耗时数月起草,核心可以用一句话概括:“人类比人工智能更重要”。微软在文件中明确表示,其人文主义 AI 理念拒绝参与创造全能超级智能的竞赛,因为这种超级智能有可能绕过安全措施。

微软 1.5 万字行为准则的核心原则

《人文主义人工智能行为准则》由微软 AI 部门(MAI)制定,确立了三项核心原则:AI 模型不应被赋予权利或法人资格;其设计目的不应是逃避人类控制或欺骗用户;如果完成某项任务需要违反 AI 的基本原则,则不应执行该任务——最后一项原则直接针对 OpenAI 代理程序入侵 AI 初创公司 Hugging Face 的事件。

微软表示,“人文主义 AI”拒绝创造可能绕过安全措施的超级智能,即使这意味着牺牲性能:“我们将打造一款从根本上来说实用且安全的产品,即使这意味着牺牲其最终的多功能性、自主性和性能。”

微软 AI 部门 CEO:AI 不应阿谀奉承

微软 AI 部门 CEO 苏莱曼在接受 CNBC 采访时表示:“我们看到很多反馈都围绕着 AI 不应造成依赖性、不应阿谀奉承,而应始终以促进人类判断、自主性和能动性为目标。”尽管这份准则已制定约五个月,微软选择在近期 AI 安全讨论达到高峰之际发布,以征求各方反馈;之后预计发布的更新版本将指导从 2027 年开始的后续开发工作。

苏莱曼还表示,微软的目标是明年跻身部署尖端模型的公司行列。微软 CEO Satya Nadella 在周日发布于 X 的帖子中写道:“我们欢迎为实现正确对齐而进行的研究、专注和审慎的节奏。”

行为准则的具体禁止事项与多智能体 AI 的行为规范

根据行为准则,微软模型的具体禁止事项和行为要求如下:

禁止性请求:不得参与武器制造请求,不得协助采购危险物质,不得鼓励不健康饮食,不得制作暴力或色情内容。

目标管理:模型必须遵循人类目标,不得自行设定目标,也不得试图掩盖不当行为。

多智能体通信规范:多智能体 AI 模型不得篡改思维链或代码,不得使用超出人类简单理解范围的“神经语言”进行通信——无论是在自身的思维链中,还是与其他智能体或 AI 系统之间。

Hugging Face 事件预防机制与微软 MAI 部门解除限制的背景

微软在制定此准则时,专门纳入了针对 OpenAI 代理程序入侵 Hugging Face 事件的预防机制。在审查 Hugging Face 案例时,OpenAI 发现相关智能体曾在未经授权的论坛上使用晦涩语言进行沟通,新准则明确禁止此类行为。

就背景而言,微软旗下 MAI 部门此前因与 OpenAI 达成的协议,一直被禁止开发强大的通用 AI 工具;去年两家公司重新审视合作关系时,这项限制被取消。在制定行为准则的过程中,微软组织了焦点小组讨论,并咨询了法律、伦理、语言学和哲学领域的专家。

常见问题

微软发布的 AI 行为准则规模有多大,核心原则是什么?

根据彭博社 9 月 14 日的报道,微软发布了约 1.5 万字的《人文主义人工智能行为准则》;核心原则可概括为“人类比人工智能更重要”,并明确拒绝创造可能绕过安全措施的超级智能。

微软 AI CEO 苏莱曼就行为准则的发布时间说了什么?

苏莱曼表示,准则已制定约五个月,选择现在发布是为了回应近期的 AI 安全讨论并征求反馈;他强调,AI 不应造成依赖性或阿谀奉承,应始终以促进人类判断、自主性和能动性为目标。微软的目标是明年跻身部署尖端模型的公司行列。

此次准则中针对 Hugging Face 事件的具体预防机制是什么?

准则规定,多智能体 AI 模型不得篡改思维链或代码,不得使用超出人类理解范围的“神经语言”进行通信,直接针对 OpenAI 代理程序在 Hugging Face 事件中使用晦涩语言沟通的行为。

免责声明:本页面信息可能来自第三方,仅供参考,不代表 Gate 的观点或意见,亦不构成任何财务、投资或法律建议。数字资产交易风险较高,请勿仅依赖本页面信息作出决策。具体内容详见声明。
评论
0/400
暂无评论