150 毫秒极速响应：OpenAI 推出 Decisions API，让 AI 从“聊天”走向“实时决策”

在2026年开发者日活动上，OpenAI于今天（9月30日）正式发布了Decisions API，这款新接口专为实时、低延迟的分类与路由场景打造，能在约150毫秒内给出结果，相比通过常规API调用Luna模型，速度提升了近10倍。

从定位来看，Decisions API面向“快速单次决策”，它将模型（目前基于OpenAI的小型模型Luna）的“智能”聚焦于一组用户预先定义的问题和有限答案集，以极低延迟返回结构化的决策结果。

在同类型模型中，主要竞争对手是TypeSafe的Jev，但Decisions API 侧重于将模型智能转化为高效的决策能力。

开发者可以输入上下文（文本或图像），并事先设定好“问题与可选答案”，API会返回选中的答案及其置信度等结构化信息，供后续业务逻辑使用。

在典型应用方面，Decisions API适合以下场景：

• 客服/工单系统：根据用户描述自动识别问题类型、优先级以及应分配的团队。
• 内容审核与策略选择：在多个预设策略（如允许、限流、人工复审）中快速做出选择。
• Agent编排中的“决策节点”：在多步骤工作流中，利用Decisions API决定下一步调用哪个工具或子Agent，而非让大模型自由发挥。
• 实时业务规则辅助：在现有规则引擎基础上，用Decisions API处理模糊情况，在有限选项中给出建议决策，再由规则引擎做出最终裁决。