决策模型竞争升温之际，OpenAI 扩大 Decisions API 的使用范围

重点摘要

OpenAI 已全面开放 Decisions API，加入快速增长的模型竞赛，这类模型旨在快速做出选择并提供置信度评分。这款产品改造 ChatGPT Luna，以降低推理时间与成本，而非依赖另行校准的模型。早期客户部署报告了工作流程加速的成效，包括 Speak 将操作间隔时间从 1.4 秒缩短至 .13 秒。业界基准测试对竞争系统的评估各有不同，结果也可能因任务而异。核心挑战在于，如何针对每种真实工作负载，平衡速度、成本、智能程度与校准。新的语音与图像功能也可能扩大这些系统能处理的任务种类。

情感分析

• 文章整体语气以信息说明为主，并审慎乐观。文章介绍 OpenAI 的产品发布，以及早期客户报告的实际效益，但并未将这些效益视为某一模型在所有情况下都最优秀的证明。
• 正面观感来自报告的速度提升、运营成本降低，以及功能扩展至语音与视觉输入。Speak 的案例具体呈现了更快的决策如何影响产品的响应速度。
• 对竞争情况的讨论相当平衡。TypeSafe 的 Jev 模型仍受到关注，而公开排名则显示其他系统在特定指标上胜过 OpenAI 的模型。文章也指出，基准排名未必能预测模型在客户自身工作流程中的表现。
• 决策模型的有效性仍存在一些不确定之处。不同工作负载可能需要不同程度的智能、速度、成本效益与校准，因此文章鼓励根据实际情境进行评估，而非只依赖通用排名。
• 总体而言，文章对这类模型的潜力持正面看法，但对目前的证据与限制仍保持审慎。

文章正文

OpenAI 已全面开放其 Decisions API 模型，让更多用户能够使用这项技术；它旨在从一组选项中快速做出选择，并提供置信度评分。此次发布让 OpenAI 进入不断增长的决策模型市场，这类模型有时也称为 System One 模型。这些系统旨在处理特定决策任务，速度比传统大型语言模型工作流程更快，成本也更低。随着软件开发者探索能否在特定应用中用它取代较慢、较昂贵的组件，这类模型的吸引力也日益提升。

TypeSafe 让这一领域受到更多关注。这家初创公司由一位前沿研究实验室的前研究员创立，其 Jev 模型帮助建立了“超级分类器”的概念：这类系统会在明确定义的选项中做出选择，并报告选择的置信度。原文称 TypeSafe 是一家市值 76 亿美元的公司。开发者已开始探索在响应必须快速且受限，而非开放式生成的工作流程中使用决策模型。不过，这类模型是否合适，取决于任务本身，以及团队如何界定可接受的准确度与置信度。

OpenAI API 产品负责人 Nikunj Handa 表示，他的团队看到 Jev 后，认为它有大量可能的应用场景。随后，OpenAI 通过改造 ChatGPT Luna 开发了自己的产品。团队没有打造专为决策校准的模型，而是重新配置 Luna，以降低推理时间与成本。Handa 说，主要改进是将响应时间从 1 到 3 秒缩短至 100、120、180 毫秒。他表示，未来可能会考虑进行专门训练；目前的版本则是以 Luna 现有形式运行。

OpenAI 在 9 月 29 日的开发者日宣布推出 Decisions API，并于周四向所有客户开放。公开版本新增语音与视觉模态。该公司还表示，已通过在不同地区配置推理资源，努力降低全球各地的延迟。这些设计旨在让服务响应更迅速，并适用于更广泛的场景，包括处理文本以外内容的应用。

早期试用客户包括 Box、Datadog、Ramp 和 Speak。这些公司的工程师在希望获得高于 OpenAI LLM 吞吐量的工作流程中使用 API。AI 语言教学公司 Speak 的首席技术官 Andrew Hsu 表示，这项 API 将操作间隔时间从 1.4 秒缩短至 .13 秒。OpenAI 也利用这项产品提升 Dots 语音助手的响应速度。这些案例说明，在交互式产品中，延迟的重要性可能不亚于模型能力。

尽管市场兴趣浓厚，但除了是否适用于特定应用之外，目前还没有公认的优秀决策模型定义。开发者可能需要根据工作负载，以不同方式平衡智能程度、成本、校准与速度。TypeSafe 首席执行官 Diogo Almeida 不信任基准测试，并建议人们在实际工作中试用模型。与此同时，TypeSafe 也在推出最新 Jev 模型时发布了自家的排名；新模型加入了图像支持与 smart-if 语句等功能。

公开比较结果也各不相同。AIM System One Index 和 Artificial Analysis Decision Index 通常更看好 D1 Ultra（Liquid 上周发布的新决策模型）以及 Base Lab 的 Elephant-1。最新 Jev 模型在这两项指标中分别排名第七与第三，而 OpenAI 的 Decision Model 则分别排名第八与第十四。原文也指出，目前 TypeSafe 的模型在 OpenRouter 上最常被查询。这些排名提供了比较参考，但无法确定各系统在特定公司的工作流程中会有怎样的表现。

JevMan 是另一种评估方式，让决策模型玩 PacMan。最新 Jev 模型在该排名中居首。打造这项基准测试的 Opper AI 首席增长官 Felix Wunderlich 表示，这款经典游戏是很有用的测试，因为它要求模型持续做出快速且攸关成败的决策。模型必须在每个岔路口于几百毫秒内决定前进方向。因此，这项基准测试强调的是受限场景中的快速决策，而非广泛的语言能力。

OpenAI 认为，多模态能力可能是自家模型的优势。Handa 告诉 TechCrunch，Luna 在图像分类方面表现出色，校准能力也有所提升。他补充说，客户希望 Decisions API 在将图像用作输出时能提供更大的灵活性。他还指出，进一步降低延迟可能促成新的应用，例如如果响应时间达到 60 毫秒，就能在视频的每一帧都调用一次 API。

文章将决策模型可能普及的趋势，联系到 Jev 的同名人物——一位经济学家，他提出更有效率地使用资源，能使资源更广泛普及。随着模型变得更快速、成本更低，更多开发者可能会发现适合交由它们处理的任务。Handa 表示，随着技术进步，一系列不断增加的潜在应用可能会逐渐显现。这种增长的规模将取决于实际表现、成本，以及模型能否满足不同工作负载的需求。

关键洞察表