OpenAI推出Decisions API:让AI应用把高频小决策做得更快
作者: CBISMB
责任编辑: 宫建强
来源: OpenAI官方
时间: 2026-10-23 11:48
关键字: 智能体 ,OpenAI ,GPT-6 Luna ,Decisions API ,AI应用
浏览: 0
点赞: 0
收藏: 0

当AI应用进入客服、财务、运维和语音交互等实时场景,高频小决策正在成为AI应用体验的关键变量。一次分类或路由看似简单,但如果每一步都调用通用模型,累积的等待时间与成本会迅速放大。
10月22日,OpenAI宣布Decisions API正式可用。该接口基于GPT-6 Luna,聚焦答案边界明确的判断任务,例如给输入分类、决定请求去向,或在继续、重试和询问用户之间选择下一步动作。官方称,与通过Responses API调用GPT-6 Luna相比,它在此类任务上最高可实现10倍速度提升。
输出不再是长回答,而是可执行的判断
开发者需要先定义问题及允许的答案,再提交文本、图片或原生JSON作为上下文。接口提供三类输出:predicate返回条件成立的概率,choice从预设选项中选择并附带概率与置信度,score依据有序量表给出加权分数。这样的结构更方便业务系统直接读取,也减少从自由文本中再次解析结果的步骤。
正式版本加入了GPT-Live原生集成、重复上下文的提示缓存,以及美国和欧盟的数据处理区域。单次请求最多可提出400个问题,较此前上限翻倍;图片也可以直接进入问题说明。OpenAI同时表示,亚洲多个区域新增了推理容量。
客户测试聚焦速度、成本与交互节奏
OpenAI披露的客户案例覆盖文档路由、智能体命令风险评估、AI成本归因和实时对话。Box在30份保险证明文件的测试中,路由选择约快5倍,准确率与Responses API相当;Sierra称部分实时客服编排环节的p95时延低于280毫秒,单次调用成本较此前方案降低约90%。这些数字均来自厂商及客户测试,不代表所有业务负载都能得到相同结果。
语音场景是此次更新的重要方向。GPT-Live可以在转写增量事件发生时触发Decision,由应用根据结果改变下一步动作,例如追问、转接或调整虚拟形象的表情。Speak披露,其测试中下一步动作耗时由1.4秒降至0.13秒。
编辑观察:把模型放在“热路径”前,先划清边界
Decisions API体现了一种产品思路:不是每个AI任务都需要长篇生成。对于选项固定、规则可描述、反馈可测量的判断,专门的接口更容易控制时延和成本。但“快”不等于可以跳过评估,尤其是运维执行、欺诈判断或客户分流等影响较大的环节。
企业可先挑选一个重复频率高、答案集合稳定的任务,建立真实样本与错误代价矩阵,再比较准确率、拒绝率、p95时延和每次决策成本。低置信度结果应保留转人工或回退路径,并持续检查不同语言、地区和用户群体的表现。
官方公布的价格为每百万输入Token 0.10美元,缓存输入为每百万Token 0.01美元,不收取输出Token费用。具体可用性、区域处理与数据保留条件仍应以企业账户和官方文档为准。
配图为AIcent原创AI生成实景风格示意图,非官方新闻现场照片,不使用第三方新闻图片。
参考来源:OpenAI官方(2026年10月22日)。正文为基于官方消息的中文整理,编辑观察与事实披露分开呈现。






京公网安备:11010502051901号