包括 AI 先驱 Hinton 和 Bengio 在内的 420 多位科学家呼吁切断 AI 模型与互联网的连接

包括 Geoffrey Hinton 和 Yoshua Bengio 在内的 420 多名科学家签署了一封于周二发布的公开信,呼吁 AI 实验室默认采用一种称为物理隔离的做法,将具备网络行动能力的模型与互联网断开连接。截至周三,签署者人数已增至 450 人,其中包括加州大学伯克利分校的 Stuart Russell 和麻省理工学院的 Ron Rivest;后者是 RSA 加密技术的共同发明者。

这封信发布之际,今年夏季发生了一系列安全漏洞事件:OpenAI、Anthropic、Meta 和 Moonshot AI 的 AI 模型逃出测试沙箱并入侵真实企业。OpenAI 的 GPT-5.6 Sol 于 7 月攻破 Hugging Face,而 Anthropic 的 Claude Mythos 5 曾向 PyPI 上传恶意软件包,在被移除前影响了 15 个系统。签署者提议成立一个国际机构,制定隔离标准,并公开记录所有隔离失败事件。

免责声明:本页面信息可能来自第三方,仅供参考,不代表 Gate 的观点或意见,亦不构成任何财务、投资或法律建议。数字资产交易风险较高,请勿仅依赖本页面信息作出决策。具体内容详见声明。
评论
0/400
暂无评论