英伟达 CEO 黄仁勋于当地时间 15 日表示,没有必要制定新的 AI 安全法律。据 Constellation Research 和 Axios 报道,他在旧金山举行的 Salesforce 年度活动上发表了上述言论。黄仁勋认为,市场力量已经在发挥作用,让企业可以选择不发布不安全的产品。他的立场与 Anthropic CEO Dario Amodei 形成对比,后者在同一活动上呼吁制定行业安全标准并开展国际监管合作。
黄仁勋将 AI 安全定义为工程挑战,而非监管问题
据报道,黄仁勋告诉与会者:“市场力量已经在发挥作用。不需要新的法律,也不需要新的监管。”他反对在创新与安全之间二选一的观点,称这是一个“错误选择”,并表示两者可以同时实现。黄仁勋认为,从根本上说,安全是一个工程问题,而不是监管问题。他说:“安全至关重要。在很多方面,这是最高优先级。”他还补充道:“但安全是一个工程问题。归根结底,我们正在开发软件。”他强调,AI 系统虽然复杂,但仍然是可以通过工程手段确保安全的计算系统。
英伟达 CEO 提议采用测试环境和按自身节奏发布的策略
黄仁勋提出了三步方案:为复杂的 AI 系统创建测试环境,确保这些环境本身以安全的方式构建,然后测试产品本身。他表示:“如果你对产品的安全性没有信心,就像其他公司一样,不要发布它。”他称这种做法“非常明显”。他建议企业“按照自己的节奏推进,直到你确信自己发布的产品会被市场接受”。黄仁勋鼓励团队“尽可能快速推进”,但补充道:“如果在任何时候你觉得产品可能不安全,就暂停并检查是否做得正确。”
Anthropic CEO Amodei 呼吁行业标准和国际合作
Amodei 在同一活动上提出了相反的观点,并将 AI 安全与汽车行业的做法进行了比较。他说:“假设一家汽车公司因刹车问题或制造缺陷而出现安全问题。”他表示:“负责任的应对方式是首先审视自身的记录。”他继续说道:“你需要组织整个行业,并讨论为所有人制定安全标准。”他还补充道:“最后,还必须开展国际合作。”Amodei 的立场强调,尽管企业责任很重要,但由政府制定的安全标准和监管措施同样不可或缺——这一立场不同于黄仁勋以工程为重点、以市场为驱动的方法。
常见问题
黄仁勋在 15 日对 AI 安全监管说了什么?
黄仁勋于当地时间 15 日在旧金山举行的 Salesforce 活动上表示,不需要针对 AI 安全制定新的法律或监管措施。他认为市场力量已经在发挥作用,如果无法确保安全,企业可以选择不发布产品。
黄仁勋的 AI 安全方法与 Anthropic CEO 的立场有何不同?
黄仁勋将 AI 安全定义为一个可以通过测试环境和按自身节奏发布来解决的工程问题,并反对新的监管措施。Anthropic CEO Dario Amodei 在同一活动上发言时,呼吁制定全行业安全标准并开展国际监管合作,强调除了企业责任之外,还需要由政府制定指导方针。