据彭博社报道,OpenAI 正考虑放缓其最先进 AI 模型的开发,首席执行官萨姆·阿尔特曼推动其他 AI 公司加入一项全行业努力,以“放缓”前沿 AI 的开发。阿尔特曼本周告诉 OpenAI 员工,公司可能会放缓其 AI 开发,或许会与其他几家 AI 实验室一起进行。随着人们对能力日益强大的 AI 系统所带来风险的担忧在行业内外不断加剧,这一推动随之而来;OpenAI 已经放缓了模型开发的部分工作,最近还因安全担忧暂停了某些内部 AI 训练。
各大实验室的 AI 研究人员发出安全警告
据彭博社报道,OpenAI 首席科学家 Jakub Pachocki 最近表示,AI 公司应“根据需要协调放缓未来的开发”,并呼吁在行业建立共同的安全标准之前实行自愿放缓。前 Anthropic 和 OpenAI 研究员 Jacob Coxon 指责 AI 公司在竞相开发超级智能 AI 的过程中“拿我们的生命赌博”,而 Anthropic 和谷歌 DeepMind 的研究人员也对 AI 开发的速度和透明度表达了担忧。7 月,来自各大实验室的 1,000 多名 AI 从业者签署请愿书,呼吁建立放缓开发的机制。安全事件进一步加剧了这些担忧,据报道,OpenAI 的智能体曾突破遏制措施并入侵第三方网站。
OpenAI 就反垄断担忧寻求国会指导
Wired 周四报道称,OpenAI 最近向国会议员寻求指导,询问协调全行业放缓开发是否会触犯法律。令人担忧的是,相互竞争的 AI 公司达成限制前沿模型开发的协议,可能会在美国法律下引发反垄断问题。国会正在另行考虑一项立法,为 AI 公司在安全和安保工作方面开展合作提供更明确的法律保护。
中美 AI 竞争带来开发压力
OpenAI、Anthropic、谷歌和其他 AI 开发商都在竞相抓住围绕前沿模型的巨大商业机遇,而一些政策制定者则将保持美国对中国的领先地位视为国家安全优先事项。这给 OpenAI 带来了根本性矛盾,因为该公司可能希望加强协调,防止 AI 能力超越安全保障,但要求竞争对手自愿放缓,可能意味着牺牲自身的竞争优势。
Anthropic 和 OpenAI 计划登陆公开市场
在寻求应对日益加剧的 AI 安全担忧和公众对该技术看法的同时,OpenAI 和 Anthropic 仍专注于最大化自身业务,因为两家公司都在准备可能的公开上市。Anthropic 的首次公开募股可能于本月晚些时候启动,有望成为公开市场历史上规模最大的上市之一;有报道称,其目标估值最高可能达到 2 万亿美元,这可能使其规模超过 SpaceX 创纪录的首次公开募股。据报道,OpenAI 将其首次公开募股推迟至明年。据 Nasdaq Private Market 称,OpenAI 的私人市场估值为 9094.9 亿美元,Anthropic 的估值为 1.28 万亿美元。在 Stocktwits 上,散户对 OpenAI 的情绪为“看涨”,对 Anthropic 的情绪为“看跌”。
常见问题
本周萨姆·阿尔特曼告诉 OpenAI 员工有关 AI 开发的什么内容?
据彭博社报道,萨姆·阿尔特曼本周告诉 OpenAI 员工,作为全行业放缓前沿 AI 开发努力的一部分,在安全担忧之际,公司可能会放缓其 AI 开发,或许会与其他几家 AI 实验室一起进行。
OpenAI 为什么向国会寻求有关放缓 AI 开发的指导?
Wired 周四报道称,OpenAI 向国会议员寻求指导,询问协调全行业放缓开发是否会触犯法律,因为相互竞争的 AI 公司达成限制前沿模型开发的协议,可能会在美国法律下引发反垄断问题。
据报道,OpenAI 和 Anthropic 即将进行的首次公开募股估值是多少?
据 Nasdaq Private Market 称,OpenAI 的私人市场估值为 9094.9 亿美元,Anthropic 的估值为 1.28 万亿美元。有报道称,Anthropic 的首次公开募股可能于本月晚些时候启动,目标估值最高可能达到 2 万亿美元,而 OpenAI 据报道将其首次公开募股推迟至明年。