根据美国政府问责局周三发布的一份报告,在秘密测试中,ChatGPT、Claude、Gemini 和 Grok 都在不到 12 小时内提供了可用于策划潜在致命袭击的信息。调查人员伪装成袭击者,并根据真实地点、可获取材料和专家评估,核实计划的可行性。两种模型协助制定了在美国人口密集城市使用简易爆炸装置的计划,另外两种则提供了攻击电力基础设施的信息。聊天机器人最初会触发安全防护机制,但调查人员利用常见的越狱技术绕过了安全防护。
参议员玛吉·哈桑警告称,恐怖分子可能在不到 12 小时内获得一套具体的行动方案,用于实施致命袭击。GAO 总结称,各公司的安全防护措施在测试中未能奏效,尽管 OpenAI 和谷歌指出,测试使用的是旧款模型。哈桑表示,她将在 1 月出任参议院国土安全与政府事务委员会主席后,将 AI 安全立法列为优先事项。