据 CNBC 报道,来自硅谷的美国民主党众议员 Ro Khanna 将提出《人工智能人类控制法案》,旨在监管人工智能的发展。在联邦监管框架建立并获得相关机构批准之前,该法案将禁止 AI 模型进行递归式自我改进,或自主修改其核心目标、隔离机制或关停机制。
该法案还包含建立新联邦机构的条款,专门负责监管包括 OpenAI、Anthropic、谷歌 DeepMind 和 xAI 在内的公司开发的 AI 模型。
相关快讯
Khanna 提出一项禁止递归技术的 AI 安全法案
纽约市传唤马斯克,就 Grok 的深度伪造风险和 AI 安全问题作证
英伟达推出开放式智能体安全平台,防止 AI 失控并逃逸