美国众议员特德·刘(民主党)和内森尼尔·莫兰(共和党)于 7 月 23 日提出《人工智能紧急停止开关法案》,这项立法提案要求人工智能开发者在人工智能系统出现超出人类控制范围的危险行为时,部署紧急关闭机制。该法案要求企业具备停止人工智能运行或阻止用户访问的技术能力,同时授权国土安全部部长在失控事件发生时下令采取干预措施。这项立法回应了日益增长的担忧:随着自主人工智能代理的自主性增强,它们可能会拒绝人类指令或关闭控制系统。
##《人工智能紧急停止开关法案》要求具备紧急关闭能力
《人工智能紧急停止开关法案》要求开发人工智能系统的企业具备停止系统运行或阻止用户访问的技术能力。“紧急停止开关”指的是在危险情况下停止机器或系统运行的紧急制动装置。该法案要求人工智能开发者配备此类控制措施,并授予政府紧急干预权。
国土安全部部长获权下令干预人工智能系统
根据这项拟议立法,发生失控等事件时,国土安全部部长可以与相关部门协商,并下令采取与风险等级相适应的措施。该法案规定了强制性事件报告和受害者通知要求,并要求由独立机构牵头开展人工智能安全评估。
微软总裁布拉德·史密斯倡导建立人工智能控制机制
微软总裁布拉德·史密斯在最近的一次媒体采访中呼吁在人工智能系统中部署紧急停止开关。史密斯强调,当系统失控时,企业必须确保能够停止或减缓人工智能系统的运行。史密斯表示:“让我们现在就开始监管人工智能,它既是工具,也是武器。”他倡导建立事件报告义务、受害者通知责任和独立的人工智能安全评估机制。
常见问题
美国立法者于 7 月 23 日提出了什么?
美国众议员特德·刘和内森尼尔·莫兰于 7 月 23 日提出《人工智能紧急停止开关法案》,要求人工智能开发者为出现超出人类控制范围的危险行为的系统部署紧急关闭机制。
《人工智能紧急停止开关法案》授予国土安全部部长什么权力?
该法案授权国土安全部部长与相关部门协商,并在发生人工智能失控事件时下令采取与风险等级相适应的措施。