微软发布Decision-1:用概率模型把决策与生成式AI分离
作者: CBISMB
责任编辑: 邹大斌
来源: CBISMB
时间: 2026-10-14 10:26
浏览: 0
点赞: 0
收藏: 0
微软发布了Decision-1,这是一个AI模型,它会为预定义的答案返回概率,让软件应用可以直接使用其输出,而无需处理来自大语言模型(LLM)的自由文本响应。
该模型瞄准的任务包括对请求进行分类、对事件进行优先级排序,以及检查AI生成的响应。微软表示,与依赖通用LLM的方案相比,它能够以更低的成本和延迟来处理这些决策。
"它不写自由文本响应,而是接收一组固定的答案选项,并在单次推理中为每个选项返回一个校准后的概率,"微软在一篇博文中表示。
据微软介绍,Microsoft-Decision-1可通过Microsoft Foundry和OpenRouter获取。微软通过后训练Qwen3.5-9B构建了该模型,并计划将其基础模型更换为其他模型,包括Microsoft AI(MAI)和OpenAI的模型。
模型瞄准特定决策
微软表示,Decision-1支持是或否判断、在预定义选项之间做选择、评分,以及基于评分标准对AI响应和智能体行为进行评估。开发者可以用它的输出来分类输入、给工作排序、验证响应,或在AI智能体工作流中决定下一步动作。
与可以生成解释和其他自然语言内容的通用LLM不同,决策模型返回的是各可用答案的概率。微软表示,其Decision-1模型还可以在单次请求中并行评估多个决策。
微软引用基准测试结果
据微软称,Decision-1在一项涵盖36个基准、近15万道对训练保持盲态的问题对比中取得了最高准确率。该公司还报告称,该模型的速度比第二名快约2.5倍,比GPT-6 Sol快35倍。
根据这篇博文,微软列出的价格为每百万输入Token 4.2美分,输出Token不收费。
在一个事件优先级排序的示例中,该公司称,一个使用86个输入Token和2个输出Token的请求成本约为0.0000036美元。按此费率,1美元可以覆盖超过27.5万次类似的决策。
上述基准测试结果和成本计算均为微软的说法,尚未经过独立验证。
Forrester副总裁兼首席分析师Charlie Dai表示,专门的决策模型可以降低智能体AI工作流的成本和延迟。
"路由、分类和审批检查往往在智能体交互中占很大比重,因此一个专门的决策模型可以在显著降低成本和延迟的同时,把通用LLM保留给推理和内容生成,"Dai说。
Kanerika的AI开发经理Amit Kumar Jena表示,把常规的路由和审批检查从大型生成模型移出,对于正在扩展AI智能体的企业而言,是一次有意义的架构变革。
不过,Jena提醒不要用微软的基准测试结果来预测企业能省多少成本。他说,组织应当衡量"每个成功完成的工作流的成本与延迟,包括回退和错误"。
治理风险
Decision-1返回分数,但不为每个决策提供理由。Jena说,微软的文档也警告称,结果可能因问题的措辞方式而变化。
"我担心的是,一个看起来精确的概率,可能会让一个不确定的决策获得超出其应有的权威性,"他说。
Dai表示,缺乏推理过程会使决策更难解释、验证和质疑。他建议进行校准测试,对问题措辞和分数阈值加以控制,进行审计日志记录,并对高影响的决策进行人工复核,尤其是在涉及客户结果或监管义务的情况下。
Jena建议从可逆的任务入手,比如请求路由和分诊,而对于实质性影响人的决策,则要求进行有意义的人工复核。
这些担忧的核心,在于组织如何解读模型的分数,并利用它们来触发行动。赋给某个答案的概率,本身并不能解释这个决策,也不能证明它在某个特定企业应用中是正确的。






京公网安备:11010502051901号