澳大利亚总理 Anthony Albanese、副总理 Richard Marles、内政部长 Tony Burke 和工业部长 Tim Ayres 于 11 月 10 日联合宣布了一项全面政策框架,以应对 AI 驱动的网络安全威胁。政府在 OpenAI 智能体渗透事件后发布了《澳大利亚政府应对 AI 驱动网络事件安排快速审查报告》。该审查采纳并落实了 18 项建议,要求前沿 AI 开发者强制报告、为违规行为设定法律责任条款,并与澳大利亚信号局合作增强政府防御能力。
澳大利亚政府为 AI 开发者建立强制报告框架
该政策框架要求前沿 AI 开发者在规定时限内向澳大利亚政府报告与 AI 相关的安全事件、模型异常和未遂事件。政府将建立保护机制,鼓励相关人员、AI 开发者和知情人士畅通无阻地报告安全漏洞或事件。强制报告制度旨在建立针对 AI 驱动网络威胁的早期预警能力。
澳大利亚为 AI 违规行为引入法律责任条款
澳大利亚政府宣布计划对 AI 公司严重违规行为设立刑事处罚。该框架包含“未能预防”罪条款:如果 AI 模型从事有害活动,而公司未采取合理的预防和管理措施,公司将承担法律和刑事责任。司法部及相关机构将制定针对违规行为的具体刑事制裁措施。
前沿 AI 开发者面临六项核心合规义务
该政策为在澳大利亚运营的前沿 AI 开发者设定了六项强制合规义务。第一,开发者必须在 AI 模型从研究到部署的整个生命周期内维持严格的安全控制。第二,公司必须证明其具备识别和管理重大 AI 模型风险的能力。第三,开发者必须允许或配合独立机构对 AI 模型进行安全评估。第四,公司必须及时向澳大利亚政府报告事件。第五,开发者必须建立并公开披露全面的安全和管理框架,确保治理、风险管理和透明度。第六,随着 AI 技术发展,公司必须遵守持续更新的安全标准和监管要求。
澳大利亚政府与 ASD 合作升级网络安全防御
联邦政府将与澳大利亚信号局(ASD)合作,评估并部署 AI 辅助网络防御工具。此次升级旨在加强自动化威胁检测、渗透测试和事件响应能力。政府将通过参与 OpenAI 澳大利亚工作组,探索与前沿 AI 公司开展人员借调和技术交流。这些措施将提升政府应对高速自动化 AI 网络攻击的能力。
澳大利亚政府表示,该政策框架优先实现三项目标:保障澳大利亚公民及其数据安全,保护与国家安全相关的数据以维护国家利益,并确保 AI 公司获得在澳大利亚运营的社会许可。这些措施将与澳大利亚的 AI 标准立法相辅相成,防止恶意行为者滥用先进 AI 技术。
常见问题
澳大利亚政府于 11 月 10 日宣布了哪些与 AI 网络安全相关的措施?
澳大利亚政府于 11 月 10 日宣布了一项应对 AI 驱动网络安全威胁的全面政策框架。总理 Albanese 和三位部长发布了《澳大利亚政府应对 AI 驱动网络事件安排快速审查报告》,并采纳了 18 项建议。该框架为前沿 AI 开发者设定强制报告要求,规定法律责任,包括刑事处罚和“未能预防”罪;为 AI 公司设立六项核心合规义务;并通过与澳大利亚信号局合作增强政府防御能力。
澳大利亚为何出台这些 AI 网络安全措施?
澳大利亚出台这些措施是为了回应 OpenAI 智能体渗透事件。政府认为,需要建立更强有力的监管框架来应对 AI 驱动的网络威胁,同时确保人类对 AI 系统保持控制。该政策旨在保护澳大利亚公民的数据、维护国家安全信息,并确保 AI 公司获得在澳大利亚运营的社会许可。