Google发布了Gemini Decisions API，给开发者一条在AI应用里处理例行决策、而不生成文本回复的路子。这距离OpenAI推出同类服务只隔了几周。

该API由Google新的Gemini Decision 1模型驱动，允许开发者在单次请求中评估最多1000个问题。与逐Token生成回复的传统生成式模型不同，这套系统给指定选项分配概率，让应用不必等生成出答案就能做出决策。

开发者可以用它检查某个条件是否满足，也可以从预设的一组选项里挑一个；它还能按评分标准（rubric）给输入打分，让应用评估某个输入满足指定标准的程度。

这个API支持多模态输入，包括图像、音频和视频，上下文窗口最多25.6万Token。开发者可以用返回的置信度分数，决定应用该自动继续执行，还是把不确定的案例转人工复核。

Google称，在上下文最多1.6万Token的测试中，该API的端到端延迟为150到250毫秒，且在1到100个问题的区间内性能相对稳定。

定价为每百万输入Token 0.10美元，不额外收输出Token费用。Google在公告中说：“无论你评估多少问题，共享输入在每个请求中只计费一次（每个问题只增加自己的指令与标准Token）。”

已经在自家产品里跑了Google已经在Gemini Notebook产品中使用这项技术，按每个请求的复杂度把查询路由到不同的AI模型。据该公司称，这个做法让日常查询的延迟最多降低了40%。

Google还表示，它已在搜索中使用该API来检测涉及模型上下文协议（Model Context Protocol，MCP）工具的对抗性行为，从而把这套能力的用途从模型路由延伸到与安全相关的决策。

该API通过Google AI Studio提供，与开发者框架的集成正在陆续铺开。Google Cloud上的Gemini支持预计会更晚推出，但Google尚未给出具体日期。

与OpenAI比什么

专用决策模型的应用场景，可能不止是在AI系统之间路由请求。

“这个模型很擅长从非结构化、动态的输入中生成决策。”Omdia首席分析师Lian Jye Su说。他点出政策与风险评估是潜在应用方向，信用评分也在其中。

OpenAI的Decisions API在10月正式可用，单次请求最多支持400个问题，而Google的上限是1000个。两家在标准价上都是每百万输入Token收0.10美元、不收输出Token费用。OpenAI还对缓存输入提供折扣价，这可能影响那些反复处理同一上下文的应用的成本。

在多模态输入上，Google的支持范围比OpenAI的Decisions API更宽，包含音频和视频。

Su认为，直接比较这两个产品，可能不如看各自与企业既有开发环境契合得多好来得重要。他主张开发者应当越过公开基准，去评估这些系统在实际运行条件下的决策可靠性。“真正的收益在于减少误判、提升决策质量。”他说。

上生产环境的风险Su警告说，输入数据的变化或被人为操纵的输入，都可能导致决策API给出错误判断。而即便API返回了置信度分数，单凭这个分数也不能确立它的评估是否可信。

“所有决策过程都必须高度依赖上下文，并且要有可信、安全的上下文层来支撑。”Su说。

他建议把决策模型接到存有历史交易和既定业务政策的数据库上。这样有助于确保模型是依据相关的组织信息来评估请求，而不是完全依赖眼前这一份输入。

Su还说，Google需要在不削弱服务成本与性能优势的前提下，满足企业对数据留存和数据主权的要求。

Kadence International高级副总裁Tulika Sheel则提出一个相关的担忧：随着企业把AI决策纳入自主工作流，人的问责该怎么办。“随着AI智能体变得更自主，企业将需要为代用户做出的决策和采取的行动，建立清晰的问责机制。”Sheel说。