据《财富》报道,OpenAI 人权与负责任部署负责人 Sarah Jagger 于当地时间 6 日在纽约举行的 ScaleUp:AI 大会上表达了对人工智能军事用途的担忧。Jagger 表示,思考军方可能如何利用 AI 进行目标选择或部署自主武器“让我夜不能寐”,并补充说:“许多人有充分理由对此感到担忧。”这位拥有 30 年人权与军事事务经验的专家于 6 月加入 OpenAI,此前该公司于 2 月与美国国防部签署合同,将先进 AI 系统部署到机密环境中。
Jagger 在国防合同签署后加入 OpenAI
Jagger 于 6 月获任 OpenAI 首位人权与负责任部署负责人。几个月前,该公司已于 2 月与美国国防部签署合同,将先进 AI 系统部署到机密环境中。此次聘任之际,竞争对手 Anthropic 的结果却截然不同:该公司要求设置包括禁止大规模监控和完全自主武器在内的安全护栏,随后在政府合同竞争中败北,并被美国当局列为供应链风险对象。
OpenAI 负责人呼吁建立以国际法为基础的 AI 框架
Jagger 强调,AI 公司不应任意重新定义道德与人性。她表示,既有的人权原则和《日内瓦公约》必须成为技术发展的基线。Jagger 在大会上说:“我们需要立足于社会已经确立的原则”,指的是现有国际法律框架,而不是创造新的伦理标准。
Jagger 批评 AI Agent 权利论述及领导层多元化问题
谈及硅谷关于 AI Agent“权利”的讨论时,Jagger 表示,这一概念“根本无法与人权相提并论”,并呼吁回归以人为本的人权框架。她还指出,决策权高度集中,并提到美国总统特朗普主持的一次近期 AI 安全会议将女性参与者排除在外,唯一例外是 AMD CEO 苏姿丰。
常见问题
Sarah Jagger 对军事使用 AI 表达了哪些担忧?
Sarah Jagger 于当地时间 6 日在 ScaleUp:AI 大会上表示,思考军方可能如何利用 AI 进行目标选择或部署自主武器“让她夜不能寐”,并称这些担忧是有充分理由的。
Sarah Jagger 何时加入 OpenAI?她的任命发生前有什么背景?
Jagger 于 6 月加入 OpenAI,担任该公司的首位人权与负责任部署负责人。此前,OpenAI 于 2 月与美国国防部签署合同,将先进 AI 系统部署到机密环境中。
Jagger 为 AI 开发伦理提出了什么框架?
Jagger 强调,AI 公司应以既有的人权原则和《日内瓦公约》为技术开发基础,而不是任意重新定义道德与人性。