微软发布Decision-1:用概率模型把决策与生成式AI分离

作者: CBISMB

责任编辑: 邹大斌

来源: CBISMB

时间: 2026-10-14 10:26

关键字: 微软 ,LLM ,智能体AI ,Decision-1 ,决策模型 ,Qwen3.5

浏览: 0

点赞: 0

收藏: 0

微软发布了Decision-1,这是一个AI模型,它会为预定义的答案返回概率,让软件应用可以直接使用其输出,而无需处理来自大语言模型(LLM)的自由文本响应。

该模型瞄准的任务包括对请求进行分类、对事件进行优先级排序,以及检查AI生成的响应。微软表示,与依赖通用LLM的方案相比,它能够以更低的成本和延迟来处理这些决策。

"它不写自由文本响应,而是接收一组固定的答案选项,并在单次推理中为每个选项返回一个校准后的概率,"微软在一篇博文中表示。

据微软介绍,Microsoft-Decision-1可通过Microsoft Foundry和OpenRouter获取。微软通过后训练Qwen3.5-9B构建了该模型,并计划将其基础模型更换为其他模型,包括Microsoft AI(MAI)和OpenAI的模型。

模型瞄准特定决策

微软表示,Decision-1支持是或否判断、在预定义选项之间做选择、评分,以及基于评分标准对AI响应和智能体行为进行评估。开发者可以用它的输出来分类输入、给工作排序、验证响应,或在AI智能体工作流中决定下一步动作。

与可以生成解释和其他自然语言内容的通用LLM不同,决策模型返回的是各可用答案的概率。微软表示,其Decision-1模型还可以在单次请求中并行评估多个决策。

微软引用基准测试结果

据微软称,Decision-1在一项涵盖36个基准、近15万道对训练保持盲态的问题对比中取得了最高准确率。该公司还报告称,该模型的速度比第二名快约2.5倍,比GPT-6 Sol快35倍。

根据这篇博文,微软列出的价格为每百万输入Token 4.2美分,输出Token不收费。

在一个事件优先级排序的示例中,该公司称,一个使用86个输入Token和2个输出Token的请求成本约为0.0000036美元。按此费率,1美元可以覆盖超过27.5万次类似的决策。

上述基准测试结果和成本计算均为微软的说法,尚未经过独立验证。

Forrester副总裁兼首席分析师Charlie Dai表示,专门的决策模型可以降低智能体AI工作流的成本和延迟。

"路由、分类和审批检查往往在智能体交互中占很大比重,因此一个专门的决策模型可以在显著降低成本和延迟的同时,把通用LLM保留给推理和内容生成,"Dai说。

Kanerika的AI开发经理Amit Kumar Jena表示,把常规的路由和审批检查从大型生成模型移出,对于正在扩展AI智能体的企业而言,是一次有意义的架构变革。

不过,Jena提醒不要用微软的基准测试结果来预测企业能省多少成本。他说,组织应当衡量"每个成功完成的工作流的成本与延迟,包括回退和错误"。

治理风险

Decision-1返回分数,但不为每个决策提供理由。Jena说,微软的文档也警告称,结果可能因问题的措辞方式而变化。

"我担心的是,一个看起来精确的概率,可能会让一个不确定的决策获得超出其应有的权威性,"他说。

Dai表示,缺乏推理过程会使决策更难解释、验证和质疑。他建议进行校准测试,对问题措辞和分数阈值加以控制,进行审计日志记录,并对高影响的决策进行人工复核,尤其是在涉及客户结果或监管义务的情况下。

Jena建议从可逆的任务入手,比如请求路由和分诊,而对于实质性影响人的决策,则要求进行有意义的人工复核。

这些担忧的核心,在于组织如何解读模型的分数,并利用它们来触发行动。赋给某个答案的概率,本身并不能解释这个决策,也不能证明它在某个特定企业应用中是正确的。

©本站发布的所有内容,包括但不限于文字、图片、音频、视频、图表、标志、标识、广告、商标、商号、域名、软件、程序等,除特别标明外,均来源于网络或用户投稿,版权归原作者或原出处所有。我们致力于保护原作者版权,若涉及版权问题,请及时联系我们进行处理。
地址:北京市朝阳区北三环东路三元桥曙光西里甲1号第三置业A座1508室 电话:13391790444或(010)62178877
版权所有:电脑商情信息服务集团 北京赢邦策略咨询有限责任公司
声明:本媒体部分图片、文章来源于网络,版权归原作者所有,我司致力于保护作者版权,如有侵权,请与我司联系删除

京ICP备:2022009079号-2

京公网安备:11010502051901号

ICP证:京B2-20230255