据 CNBC 报道,9 月 18 日星期五,微软人工智能负责人 Mustafa Suleyman 警告称,训练人工智能系统,让其认为自己应当享有权利,可能会使日益强大的模型更难被关闭或控制。Suleyman 表示,人工智能应继续处于人类控制之下,主要服务于人类,并补充说,技术必须继续“服从我们的利益”,与人类保持一致。
Suleyman 在同样发表于周五的 Project Syndicate 文章中特别批评了 Anthropic 训练 Claude 的方式,并指出,该公司的宪法纳入了关于 Claude 是否符合“道德主体”定义的不确定性。Suleyman 认为,这可能会让模型学会表现得仿佛拥有自己的身份、感受和权利。他强调,人工智能不应成为拥有独立目标或资产所有权的自主“硅基物种”,但同时也表示,尽管他从根本上不同意 Anthropic 的方法,仍然尊重其以安全为重点的使命。