OpenAI 首席执行官萨姆·阿尔特曼在周二的 Dev Day 活动上宣布了公司的全新 Decisions API。该 API 提供了类似于 TypeSafe AI 于本月早些时候发布的 Jev 的功能,后者专为软件自动化而设计。Decisions API 允许 OpenAI 的 Luna 模型在预定义选项之间进行选择,例如图像分类类别或智能体行为。阿尔特曼表示,该 API 能够在保留图像理解、广泛语言支持和安全防护等能力的同时,实现极快的处理速度。这一公告解决了传统大型语言模型的局限性,因为对于许多软件应用而言,传统大型语言模型的处理速度相对较慢且成本高昂。
Decisions API 与 TypeSafe 的 Jev 模型功能相似
Decisions API 作为一种基于大型语言模型构建的超级分类器运行。开发者可以向 Jev 提供一组选择,由它以高速、低成本输出这些选项的概率。阿尔特曼称,该 API 让模型专注于预定义选项,从而在保留核心能力的同时提升速度。TypeSafe 首席执行官 Diogo Almeida 曾是 OpenAI 工程师,也是强化学习的共同发明人,他在 X 上评论了这一进展。Almeida 表示,OpenAI 对此感兴趣可能表明,以兼容系统 1 的方式构建系统就是未来。TypeSafe 使用“系统 1”来描述快速、直觉式思考,而“系统 2”则代表审慎推理。OpenAI 以有限预览的形式发布了 Decisions API。
成本对比显示出显著的效率提升
使用 Jev 的开发者发现,该模型比传统大型语言模型更快、更便宜。Almeida 上周告诉 TechCrunch,快速且廉价地处理信息并不难,真正困难的是实现智能。他表示,自己的重点是推动每美元智能产出的帕累托曲线。Almeida 称,他所在公司的优势在于能够创建合成数据,以生成具有统计实用性的输出。多家初创公司正在与 OpenAI 的产品一同推出类似的决策模型。
开发者展示智能体监控应用
网络安全专业人士、初创公司 QueryStory 的负责人 Shapor Naghibzadeh 为上周末举行的一场黑客松制作了演示。该演示使用 Jev 检查每个智能体行动是否符合其分配的任务,阻止被判定为高度有害的行动,将其他行动标记为待审核,并允许其余行动通过。Naghibzadeh 的监控系统使用 Jev 的成本为 2.94 美元,而使用前沿大型语言模型的成本为 372 美元。在其智能体曾在开放互联网中出现不当行为后,OpenAI 花费高昂的计算成本部署了一个独立模型来监控有害行动。这种成本效率可能支持对每个智能体行动进行监控,从而提供一层审核机制,提升智能体的可靠性。
常见问题
OpenAI 在周二的 Dev Day 上宣布了什么?
OpenAI 首席执行官萨姆·阿尔特曼宣布了 Decisions API,该 API 提供了类似于 TypeSafe AI 的 Jev 模型的功能,用于软件自动化。该 API 允许 OpenAI 的 Luna 模型在预定义选项之间进行选择,同时保持快速处理速度以及图像理解和安全防护等核心能力。
在智能体监控方面,Jev 的成本与传统大型语言模型相比如何?
Shapor Naghibzadeh 的演示显示,使用 Jev 进行监控的成本为 2.94 美元,而使用前沿大型语言模型的成本为 372 美元。这一成本差异使得对每个智能体行动运行监控成为可能,而不是由于计算成本过高而仅进行选择性监控。