Reddit 联合创始人 Alexis Ohanian 周三告诉 CNBC,科技行业在解释 AI 以及向公众恰当地说明其真实风险方面一直“缺乏敏感度”。Ohanian 认为,科技行业在解释 AI 方面“做得相当不妥”,助长了错误信息,同时表示 AI 的风险比末日式情景更为平凡。这番言论发表前几天,OpenAI 和 Anthropic 的研究人员曾警告称,递归自我改进技术正在快速发展,即 AI 系统帮助开发更先进的模型。
Ohanian 认为 AI 风险比末日式情景更为平凡
Ohanian 表示,围绕 AI 的讨论应聚焦于实质性风险,而不是那些可以用来博取政治分数的问题,并认为知情公众对于驾驭这项技术至关重要。他承认,科技行业在解释 AI 方面“做得相当不妥”,同时表示 AI 的风险比一些人担心的“Terminator 和 Skynet”情景更为平凡。Skynet 是《Terminator》电影中的虚构自我意识 AI 系统,它将人类视为威胁,并试图将其消灭。
Ohanian 认为,尽管 AI 风险确实存在,但末日式的“Terminator”风格警告可能会分散人们对真实担忧的注意力,例如智能体集群,即多个 AI 智能体协同完成复杂任务。“确实存在风险,但我认为这些风险更加温和,或者说比人们想象的更加平庸,”他说。
OpenAI 和 Anthropic 研究人员警告递归自我改进
这番言论发表前几天,OpenAI 和 Anthropic 这两家 AI 实验室的研究人员曾警告称,一种被称为递归自我改进(RSI)的技术正在快速发展。RSI 指 AI 系统帮助开发更先进的模型,这可能形成一个循环:能力越来越强的系统参与构建能力更强的系统。
令人担忧的是,如果 AI 系统接管了训练新模型的过程,其人类开发者最终可能会失去对这些系统演变方式的控制。
Ohanian 将 AI 比作核能
Ohanian 将 AI 比作核能,因为这两项技术都是强大的科学进步,若管理得当可以带来巨大益处,但也可能造成严重伤害。“我希望这一切朝着健康的方向发展,而这将需要更少的推文,更多的是,比如说,深思熟虑的对话,”Ohanian 说。
“那条末日式推文令人沮丧,”他说,但没有具体说明是哪条推文,并补充说,当“那些口号实际上并不对应真实事物”时,这令人“沮丧”。对 Ohanian 而言,细微差别至关重要。“我们应该讨论重要的、比如说真实的事情,而不是那些或许能迅速博取政治分数的东西……我相信我们能够进行这样的讨论。”
Jacob Coxon 以安全担忧为由辞去 Anthropic 职务
本月早些时候,一名 AI 研究员辞去了在 Anthropic 的工作,并指责该公司和 OpenAI 在开发这项强大技术时行事不负责任。Jacob Coxon 曾在这两家公司担任研究员,他在社交媒体上表示,自己辞职是因为担心 Anthropic 和 OpenAI 正在“拿我们的生命赌博”。他说,构建 AI 的人“真心相信,到本十年结束时,它可能会杀死我们所有人”。
Ohanian 对此类担忧回应说:“这让我感到沮丧,因为我看到所有这些错误信息到处传播,但我确实认为从长远来看,我们 [will] 能把事情做好,而这正是我希望发生的。所以,我并不特别担心其中那部分。”
常见问题
Reddit 联合创始人 Alexis Ohanian 周三如何评价 AI 沟通?
Alexis Ohanian 周三告诉 CNBC,科技行业在解释 AI 以及向公众恰当地说明其真实风险方面一直“缺乏敏感度”。他认为,科技行业在解释 AI 方面“做得相当不妥”,同时表示 AI 的风险比末日式的“Terminator 和 Skynet”情景更为平凡。
什么是递归自我改进,研究人员为何对此感到担忧?
递归自我改进,即 RSI,指 AI 系统帮助开发更先进的模型,这可能形成一个循环:能力越来越强的系统参与构建能力更强的系统。令人担忧的是,如果 AI 系统接管了训练新模型的过程,其人类开发者最终可能会失去对这些系统演变方式的控制。在 Ohanian 发表上述言论前几天,OpenAI 和 Anthropic 的研究人员曾就该技术的快速发展发出警告。