Reddit联合创始人Ohanian批评科技行业“缺乏共情”的AI沟通方式

关键要点

  • Alexis Ohanian 周三批评科技行业在向公众解释 AI 风险时“脱离实际”。
  • Ohanian 认为,AI 风险比末日场景更为平凡,并引用了智能体群等真正令人担忧的问题。
  • OpenAI 和 Anthropic 的研究人员几天前警告称,递归自我改进技术正在快速发展。

Reddit 联合创始人 Alexis Ohanian 周三告诉 CNBC,科技行业在解释 AI 以及向公众恰当地说明其真实风险方面一直“缺乏敏感度”。Ohanian 认为,科技行业在解释 AI 方面“做得相当不妥”,助长了错误信息,同时表示 AI 的风险比末日式情景更为平凡。这番言论发表前几天,OpenAI 和 Anthropic 的研究人员曾警告称,递归自我改进技术正在快速发展,即 AI 系统帮助开发更先进的模型。

Ohanian 认为 AI 风险比末日式情景更为平凡

Ohanian 表示,围绕 AI 的讨论应聚焦于实质性风险,而不是那些可以用来博取政治分数的问题,并认为知情公众对于驾驭这项技术至关重要。他承认,科技行业在解释 AI 方面“做得相当不妥”,同时表示 AI 的风险比一些人担心的“Terminator 和 Skynet”情景更为平凡。Skynet 是《Terminator》电影中的虚构自我意识 AI 系统,它将人类视为威胁,并试图将其消灭。

Ohanian 认为,尽管 AI 风险确实存在,但末日式的“Terminator”风格警告可能会分散人们对真实担忧的注意力,例如智能体集群,即多个 AI 智能体协同完成复杂任务。“确实存在风险,但我认为这些风险更加温和,或者说比人们想象的更加平庸,”他说。

OpenAI 和 Anthropic 研究人员警告递归自我改进

这番言论发表前几天,OpenAI 和 Anthropic 这两家 AI 实验室的研究人员曾警告称,一种被称为递归自我改进(RSI)的技术正在快速发展。RSI 指 AI 系统帮助开发更先进的模型,这可能形成一个循环:能力越来越强的系统参与构建能力更强的系统。

令人担忧的是,如果 AI 系统接管了训练新模型的过程,其人类开发者最终可能会失去对这些系统演变方式的控制。

Ohanian 将 AI 比作核能

Ohanian 将 AI 比作核能,因为这两项技术都是强大的科学进步,若管理得当可以带来巨大益处,但也可能造成严重伤害。“我希望这一切朝着健康的方向发展,而这将需要更少的推文,更多的是,比如说,深思熟虑的对话,”Ohanian 说。

“那条末日式推文令人沮丧,”他说,但没有具体说明是哪条推文,并补充说,当“那些口号实际上并不对应真实事物”时,这令人“沮丧”。对 Ohanian 而言,细微差别至关重要。“我们应该讨论重要的、比如说真实的事情,而不是那些或许能迅速博取政治分数的东西……我相信我们能够进行这样的讨论。”

Jacob Coxon 以安全担忧为由辞去 Anthropic 职务

本月早些时候,一名 AI 研究员辞去了在 Anthropic 的工作,并指责该公司和 OpenAI 在开发这项强大技术时行事不负责任。Jacob Coxon 曾在这两家公司担任研究员,他在社交媒体上表示,自己辞职是因为担心 Anthropic 和 OpenAI 正在“拿我们的生命赌博”。他说,构建 AI 的人“真心相信,到本十年结束时,它可能会杀死我们所有人”。

Ohanian 对此类担忧回应说:“这让我感到沮丧,因为我看到所有这些错误信息到处传播,但我确实认为从长远来看,我们 [will] 能把事情做好,而这正是我希望发生的。所以,我并不特别担心其中那部分。”

常见问题

Reddit 联合创始人 Alexis Ohanian 周三如何评价 AI 沟通?

Alexis Ohanian 周三告诉 CNBC,科技行业在解释 AI 以及向公众恰当地说明其真实风险方面一直“缺乏敏感度”。他认为,科技行业在解释 AI 方面“做得相当不妥”,同时表示 AI 的风险比末日式的“Terminator 和 Skynet”情景更为平凡。

什么是递归自我改进,研究人员为何对此感到担忧?

递归自我改进,即 RSI,指 AI 系统帮助开发更先进的模型,这可能形成一个循环:能力越来越强的系统参与构建能力更强的系统。令人担忧的是,如果 AI 系统接管了训练新模型的过程,其人类开发者最终可能会失去对这些系统演变方式的控制。在 Ohanian 发表上述言论前几天,OpenAI 和 Anthropic 的研究人员曾就该技术的快速发展发出警告。

免责声明:本页面信息可能来自第三方,仅供参考,不代表 Gate 的观点或意见,亦不构成任何财务、投资或法律建议。数字资产交易风险较高,请勿仅依赖本页面信息作出决策。具体内容详见声明。
评论
0/400
暂无评论