OpenAI 首席财务官萨拉·弗里尔在 CNBC《Mad Money》采访中表示,公司认真对待 AI 安全问题,如果研究人员建议放缓,就会放缓前沿开发。弗里尔发表这番言论之际,行业正陷入一场由一名前 Anthropic 研究人员引发的广泛争论。该研究人员辞职后警告称,AI 可能会“在本十年结束前杀死我们所有人”。这番言论反映出,在科技行业对快速发展的 AI 技术日益担忧之际,OpenAI 正在努力平衡商业决策与安全考量。
弗里尔告诉 CNBC 的吉姆·克莱默:“我们确实需要认真对待安全问题。如果这意味着我们必须控制前沿发展的速度并放慢脚步,那绝对没问题。我们会听取研究人员的意见并这样做。”她补充道:“作为首席财务官,我需要据此做出商业决策。我们正在控制前沿发展的速度,并且非常认真地对待安全与对齐问题。”弗里尔澄清说,她并不担心 AI 代理使用大规模杀伤性武器进行杀戮。
吉姆·克莱默与萨拉·弗里尔的完整采访于下午 6 点在《Mad Money》节目中播出。
行业领袖支持放缓开发
在这名前 Anthropic 研究人员发出警告后,人们对 AI 可能伤害人类的担忧在华盛顿内外达到高潮。Anthropic 负责人达里奥·阿莫代伊、SpaceX 的马斯克以及 OpenAI 首席执行官萨姆·阿尔特曼均支持全行业放缓发展的呼吁。
周六,阿莫代伊发表博客文章,主张放缓 AI 模型的开发,以“降低发生严重问题的风险”。
OpenAI IPO 时间表仍不确定
安全担忧再度升温是否会影响两家前沿实验室筹备首次公开募股的时间表,目前尚不清楚。外界普遍预计,Anthropic 将于下个月某个时候进行首次公开募股。
萨姆·阿尔特曼在《财富》杂志周六刊登的一次采访中表示,2026 年进行首次公开募股将是“不明智的”。8 月,CNBC 报道称,弗里尔告诉员工,该实验室“将在 2027 年成为一家上市公司”,但如果“我们的业务继续出现拐点”,也可能更早上市。
常见问题
OpenAI 首席财务官萨拉·弗里尔在 CNBC 采访中对 AI 安全问题说了什么?
萨拉·弗里尔表示,OpenAI 认真对待安全问题,如果研究人员建议,公司将放缓前沿开发。她强调,作为首席财务官,她会在认真对待安全与对齐问题的同时,围绕控制前沿发展速度做出商业决策。
为什么 AI 安全争论最近加剧?
上周,一名前 Anthropic 研究人员辞职并警告称,快速发展的 AI 技术可能会“在本十年结束前杀死我们所有人”,此后这场争论迅速升级。这一警告促使包括达里奥·阿莫代伊、马斯克和萨姆·阿尔特曼在内的行业领袖支持全行业放缓发展的呼吁。
OpenAI 计划何时上市?
8 月,萨拉·弗里尔告诉员工,OpenAI“将在 2027 年成为一家上市公司”,但如果业务继续出现拐点,也可能更早上市。首席执行官萨姆·阿尔特曼在周六刊登的一次采访中表示,2026 年进行首次公开募股将是“不明智的”。