阿里巴巴发布全新一代基座大模型Qwen4-Max,参数2.4万亿

作者: CBISMB

责任编辑: 邹大斌

来源: CBISMB

时间: 2026-11-17 11:16

浏览: 0

点赞: 0

收藏: 0

阿里巴巴通义千问团队正式发布新一代旗舰基座大模型Qwen4-Max,将技术重心聚焦于训练与推理阶段的注意力机制优化,在大幅压缩调用成本的同时,显著提升了长周期复杂任务的执行稳定性。该模型即日起通过千问AI平台及阿里云百炼对外提供API服务,Qwen4系列中的中小尺寸模型将后续陆续开源。

架构革新:总参数2.4万亿,激活参数“瘦身”四分之一

Qwen4-Max采用基于Qwen稀疏注意力(QSA)的全新混合专家(MoE)架构,总参数规模维持2.4万亿(2.4T),与上一代Qwen3.8-Max持平。关键变化在于单次推理中每个Token的激活参数量从上代的95B降至71B,缩减幅度达25%,意味着相同任务下的前向计算量显著降低。

为支撑百万Token上下文窗口而不拖垮显存与算力,千问团队设计了一套“分层分工”的混合注意力机制:每四层中配置三层Gated DeltaNet(GDN),负责将历史信息压缩至固定大小的状态中,扮演“记忆”角色;剩余一层留给QSA稀疏注意力,按块识别并精准检索当前最相关的上下文信息,扮演“检索”角色。这一“记忆-检索”协作范式,在百万Token场景下实现了Prefill阶段7.6倍、Decode阶段4.9倍的注意力内核加速。

训练阶段,团队叠加了四条并行门控残差流以稳定梯度,据官方训练日志显示,整轮训练未出现一次loss尖峰。此外,模型第二层外挂了一套328B参数的N-gram查表模块,以极低的额外计算代价托住知识容量。千问内部四项基座能力测试(知识、代码、问答、理工科)的每字节比特数(BPB)全部创下新低,较同为2.4T的上代模型下降5%至13%。

成本革命:单任务均价砍掉58%,缓存命中低至0.5元

成本大幅下降是本次发布最直观的亮点。在覆盖721个细分行业场景的Work360评测框架下,Qwen4-Max完成同一复杂专业任务的平均费用从上代的26.58元降至11.16元,降幅达58%。海外版同步调价,单任务均价从4.43美元降至1.67美元。

降本的核心路径有二。其一,模型“话变少了”——在终端基准Terminal-Bench 4.0上,无论High还是Xhigh思考档位,Qwen4-Max消耗的Token量均比上代缩减约一半,而Work360得分反而从47.74分上升至52.69分,说明推理效率而非输出长度的提升才是主因。其二,缓存命中价格大幅下调至每百万Token 0.5元,仅为正常输入价的二十分之一,专门服务于多轮工具调用、百万上下文反复读取的长任务场景——此前已加载的底稿与代码库,后续重复读取几乎只花零头。

能力跃升:前端开发全球第六,代码修复登顶

在第三方权威榜单Code Arena的前端网页开发榜上,Qwen4-Max以1750分(xHigh档位)位列全球第六、国产第一,较上代提升74分,排在Claude Fable 5.1和GPT-6.1 Sol等海外旗舰之前。在Artificial Analysis最新综合智能指数中,其得分从上代的34分跃升至43分,单任务平均成本从约10美元降至3美元出头。

在阿里官方公布的16项横向测试中,长程智能体任务表现尤为突出。DeepSWE代码修复基准取得75.7分排名第一;Agents' Last Exam长程任务得分46.7分,较上代提升近七成;法律智能体测试HLAB以21.3分领先同类模型逾一倍。在Agent Arena真实用户会话榜中,Qwen4-Max从上代第39名飙升至全球第14、国产第一。

值得关注的是,Qwen4-Max首创“Live Delivery”分阶段交付机制,将长周期的单次等待转化为透明的渐进式协作——模型先输出可用的首版成果,用户可随时介入审阅并校准方向,模型据此持续迭代。该机制已在虚幻引擎三维游戏开发、汽车工件加工编程等实景场景中验证,其中汽车制造工件编程耗时从约475分钟缩短至24分钟。

阿里巴巴表示,Qwen4-Max已同步接入千问App、千问办公、Qoder等产品线,并兼容OpenAI与Anthropic双协议,降低企业接入门槛。未来Qwen4.5、Qwen5等后续版本模型参数将扩展至5到10万亿量级,中小尺寸版本将陆续开源,进一步壮大开发者生态。

从架构设计来看,Qwen4-Max清晰地传递出大模型演进的新信号:总参数持续膨胀的同时,单步推理计算量必须可控;上下文窗口不断拉长的同时,不能单纯依赖算力堆砌。推理效率与成本控制,正在从“锦上添花”变为架构设计的核心目标。

©本站发布的所有内容,包括但不限于文字、图片、音频、视频、图表、标志、标识、广告、商标、商号、域名、软件、程序等,除特别标明外,均来源于网络或用户投稿,版权归原作者或原出处所有。我们致力于保护原作者版权,若涉及版权问题,请及时联系我们进行处理。
地址:北京市朝阳区北三环东路三元桥曙光西里甲1号第三置业A座1508室 电话:13391790444或(010)62178877
版权所有:电脑商情信息服务集团 北京赢邦策略咨询有限责任公司
声明:本媒体部分图片、文章来源于网络,版权归原作者所有,我司致力于保护作者版权,如有侵权,请与我司联系删除

京ICP备:2022009079号-2

京公网安备:11010502051901号

ICP证:京B2-20230255