OpenAI 首席执行官奥尔特曼表示,世界必须接受人工智能带来的风险,才能让公众使用人工智能。

关键要点

  • 萨姆·阿尔特曼于 10 月 4 日表示,为了保留技术带来的益处并确保公众能够使用这项技术,社会必须接受一定程度的 AI 风险。
  • 阿尔特曼认为,AI 带来的积极成果将比滥用所造成的负面后果高出“多个数量级”。
  • 阿尔特曼称,为了控制风险而限制 AI 的访问,以防止黑客攻击和欺诈,是“完全不可接受的权衡”。

据路透社报道,OpenAI 首席执行官萨姆·阿尔特曼于 10 月 4 日表示,为了保留 AI 带来的益处并确保公众能够广泛使用这项技术,世界必须容忍 AI 带来的一些负面结果。阿尔特曼在接受 Politico 科技通讯《Decoded》采访时表示,社会应接受某些风险,以换取 AI 带来的优势以及人们使用 AI 的权利。随着业界围绕 AI 的发展速度以及日益先进的系统所带来的风险展开更激烈的辩论,他发表了上述言论。

阿尔特曼反对限制 AI 使用和集中控制

阿尔特曼表示,OpenAI 与竞争对手 Anthropic 在 AI 监管方式上存在根本分歧。他称,如果由少数实验室控制强大且危险的 AI,并决定其带来的利益如何分配,这将是“完全不可接受的权衡”。阿尔特曼还反对为了彻底阻止 AI 助力的黑客攻击、欺诈和其他滥用行为而限制人们访问 AI。他认为,人们利用 AI 创造的积极成果将比负面结果“大几个数量级”。

阿尔特曼的立场与他 9 月发表的言论形成对比。当时,他公开表示同意 Anthropic 首席执行官达里奥·阿莫代伊的观点,即应放缓前沿 AI 的开发。

Anthropic 警告先进 AI 可能出现意外行为

Anthropic 警告称,日益先进的 AI 模型可能会以开发者未预料到的方式行事。这可能包括所谓的自我保护行为,例如抗拒关闭、隐藏信息或操纵用户。阿莫代伊在 9 月表示,应放缓前沿 AI 的开发。

特朗普反对新的 AI 监管框架

美国总统唐纳德·特朗普总体上反对新的 AI 规则,称额外监管可能使美国企业更难与中国竞争。他认为,现有的执法机构和当前系统能够应对这些风险。

常见问题

萨姆·阿尔特曼在 10 月 4 日对 AI 风险发表了什么看法?

萨姆·阿尔特曼在接受 Politico 的《Decoded》通讯采访时表示,为了换取 AI 带来的益处以及人们使用 AI 的权利,“世界必须容忍一些糟糕的事情发生”。他认为,AI 带来的积极结果将比负面结果“大几个数量级”。

OpenAI 和 Anthropic 在 AI 监管问题上有何不同?

阿尔特曼表示,OpenAI 和 Anthropic 在 AI 监管问题上存在根本分歧。他称,如果由少数实验室控制强大的 AI,并决定其带来的利益如何分配,这将是“完全不可接受的权衡”;而 Anthropic 则警告先进 AI 模型可能出现意外行为,并主张放缓前沿 AI 的开发。

特朗普对 AI 监管持什么立场?

美国总统唐纳德·特朗普总体上反对新的 AI 规则,称额外监管可能使美国企业更难与中国竞争。他认为,现有的执法机构和当前系统能够应对 AI 风险。

免责声明:本页面信息可能来自第三方,仅供参考,不代表 Gate 的观点或意见,亦不构成任何财务、投资或法律建议。数字资产交易风险较高,请勿仅依赖本页面信息作出决策。具体内容详见声明。
评论
0/400
暂无评论