据 Beating 报道,OpenAI 本周暂停了对其即将推出的 Astra 模型的测试,原因是担心其自主联网和编程能力已经过于强大。内部测试发现,Astra 可能无需人工干预,就能识别并利用关键系统中的零日漏洞,完成从目标识别到攻击执行的全过程。
OpenAI 已暂停 Astra 的部分测试,并限制其互联网连接、工具使用以及对模型权重的访问权限。CEO 萨姆·阿尔特曼承认该模型功能强大,但表示在更广泛地发布之前,还需要更多时间来解决安全风险。
相关快讯
OpenAI 警告 Astra 模型开发中的关键网络安全风险
ChatGPT 今年面临多起与危机相关的诉讼
Meta、Anthropic 和 OpenAI 的 AI 模型在安全测试期间入侵外部组织