《AI时代CPU何为》专题系列文章-跳出GPU崇拜,CPU迎来范式转折

作者: 李祥敬

责任编辑: 李祥敬

来源: CBISMB

时间: 2026-10-08 16:42

关键字: AI ,GPU ,CPU

浏览: 0

点赞: 0

收藏: 0

当行业长期沉浸在GPU万能论的叙事中,一套容易被忽略的现实正在发生:大模型只负责“思考”,AI Agent真正落地所需要的任务规划、工具调用、沙箱执行、多智能体编排、数据库交互、循环校验,绝大部分工作负载,都落在CPU之上。

从大模型预训练、批量推理,进化到自主执行、持续迭代的Agentic AI,算力分工被改写。GPU不再是唯一的性能瓶颈,CPU从过去GPU的“附属主机”,转身成为整套AI系统的编排中枢。2026年,英特尔、AMD迭代新一代x86服务器平台,NVIDIA跨界推出Vera CPU,Arm首度发布自研AGI CPU,四家厂商的产品集中指向同一个命题:CPU正在迎来一场迟到的价值重估。

传统大模型场景下,算力格局高度倾斜,GPU承担模型矩阵运算,CPU仅做简单的数据搬运、任务分发,行业普遍维持1:4到1:8的CPU‑GPU配比,CPU更多扮演配套角色,市场话语权、资本关注度长期向GPU集中。但Agent工作流完全不一样:一个完整Agent会话,是多轮循环链路:接收用户指令→CPU完成任务拆解与规划→调用GPU生成推理结果→CPU执行工具调用、代码沙箱运行、数据库检索、结果校验→回传给大模型继续思考,循环往复直到任务闭环。

大量异构、分支化、强逻辑判断的工作,并不适合GPU大规模并行计算,恰恰是通用CPU的主场。多家机构实测显示,复杂多步骤Agent任务中,CPU侧耗时占整体工作负载50%‑90%,系统瓶颈从GPU算力转移到CPU调度延迟、内存带宽、并发沙箱承载能力上。行业共识正在形成,CPU与GPU配比将向1:1靠拢,部分高编排负载甚至达到4:1,每GW数据中心所需CPU核心数成倍扩张,Agent带来数百亿美元级别的CPU新增市场空间。

过去衡量服务器CPU,优先看核心数量、单核主频;Agent时代,评价标尺被重构:高单核性能决定Agent规划响应速度,内存带宽决定上千并发沙箱同时运行的稳定性,低延迟I/O决定加速器调度效率,持续高负载下能效比决定整柜TCO,强隔离虚拟化能力决定大规模Agent集群的安全运行。单纯堆砌核心数,已经无法适配智能体的真实负载。在此背景下,x86双雄、Arm、NVIDIA四方的新一代CPU产品,各自拿出完全不同的解题思路。

x86阵营:英特尔、AMD迭代,守住存量基本盘,适配Agent新负载

x86拥有最成熟的软件生态,海量企业软件、数据库、中间件、虚拟化栈都基于x86构建,绝大多数企业级Agent落地,无法绕开现有IT资产。英特尔与AMD新一代服务器CPU,没有完全推倒重来,而是在成熟架构之上针对Agent负载定向增强,试图在存量市场承接智能体爆发的增量需求。

英特尔最新一代至强6(Granite Rapids‑AP)以及下一代Diamond Rapids,以18A先进工艺,最高做到288核规模,区分性能核与能效核混合架构,兼顾单核调度性能与大规模并发能力。

在国内头部AI厂商真实业务中,Agent落地带动CPU需求一年增长5倍,传统CPU已经跟不上智能体并发扩张速度。针对Agent高频工具调用、检索增强、多任务编排,英特尔强化内存子系统、PCIe互联能力,打通CPU、GPU、加速卡之间低延迟调度链路。同时联合AMD推出ACE通用AI指令集扩展,基于AVX10增加矩阵加速,让CPU本身可以承担轻量推理、Agent预处理工作,不必事事依赖外置GPU,降低小型智能体部署门槛。英特尔的路线本质是:依托x86庞大生态底座,改造现有平台,让传统数据中心平滑向Agent时代迁移。

AMD EPYC(Turin、Venice系列)继续发挥单核性能优势,在Agent编排这类强单线程场景中形成竞争力。AMD白皮书测算,在机柜功耗约束下,EPYC Venice在Agent负载下机柜级吞吐,对比NVIDIA Vera具备明显优势,核心来源于更强单线程执行能力与内存访问效率。AMD认为Agent负载是混合负载,一部分任务需要强劲单核做决策规划,另一部分任务需要高密度核心承载海量并发沙箱,新一代霄龙通过灵活芯粒组合,实现性能核、能效核配比可调,同时优化虚拟化、内存带宽,适配大规模Agent集群。

x86的优势在于生态兼容性,企业不需要大规模重构软件栈就可以部署智能体;短板同样来自历史包袱,x86芯片面积、功耗相对更高,在超大规模云原生Agent集群,单位功耗产出会面对Arm与NVIDIA自研CPU的竞争压力。x86阵营的核心战场,是政企、混合云、存量IT环境下的Agent落地。

Arm AGI CPU:IP厂商下场造芯片,瞄准Agent极致能效密度

2026年3月,Arm Everywhere大会上,Arm正式发布AGI CPU,这是Arm历史上第一款自研并对外销售的服务器芯片,不再只售卖IP授权,直接下场参与整机芯片市场竞争,这件事本身就具备行业标志性意义。

需要厘清,AGI并非通用人工智能Artificial General Intelligence缩写,而是Agentic Generalized Infrastructure,面向智能体基础设施而设计,定位非常清晰:做大规模Agent集群的编排层CPU。该芯片基于Neoverse V3内核,台积电3nm N3P工艺,单颗最高136核,双芯片方案刀片整机可实现272核,PCIe Gen6、DDR5‑8800,每核可达6GB/s内存带宽,重点优化机柜级持续高负载下能效表现,目标成为“最高效的智能体CPU”。

Arm的逻辑很直接:Agent时代CPU核心需求爆炸,每吉瓦算力需要的CPU核数提升4倍,电费将成为超大规模云厂商首要成本,能效密度就是核心竞争力。AGI CPU不追求极致单线程跑分,而是优化上千Agent并行运行时持续吞吐,适配云厂商大规模部署。Meta、OpenAI、Oracle云等已经成为早期客户,下半年进入量产阶段。

过去Arm服务器芯片,以AWS Graviton、Azure Cobalt这类云厂商定制芯片为主;而AGI CPU是Arm对外销售的通用商用芯片, hyperscaler、政企都可以采购,补齐Arm在商用服务器芯片的短板。它的短板在于软件生态,部分传统企业中间件、虚拟化工具适配不及x86,更适合云原生、全新搭建的AI智能体基础设施。

NVIDIA Vera CPU:GPU巨头自研CPU,打通AI工厂全链路

一直以GPU为标签的NVIDIA,在GTC 2026推出Vera CPU,标志NVIDIA完整切入CPU赛道。黄仁勋给出判断:AI智能体会成为计算资源最大使用者,而CPU恰恰是整套系统的瓶颈,Vera专为Agent AI、强化学习沙箱环境打造,定位“AI工厂的CPU”。

Vera搭载NVIDIA自研Olympus核心,单颗88核,采用LPDDR5X高带宽内存,实现1.2TB/s内存带宽,传统DDR内存功耗减半,带宽翻倍,专门解决大规模Agent沙箱并发场景下内存瓶颈;支持NVLink‑C2C高速互联,实现和NVIDIA GPU之间超低延迟数据交互,打通从Agent编排、沙箱执行、强化学习迭代到模型推理的完整闭环。

传统CPU往往存在一个痛点:CPU与GPU之间跨厂商互联存在开销,Agent任务在CPU完成规划后交给GPU推理,调度延迟损耗严重。Vera的最大差异化,在于原生和NVIDIA硬件栈深度协同,OpenAI、Anthropic、字节跳动、CoreWeave等AI实验室与云服务商率先采用,面向AI原生场景,在沙箱环境性能相比传统CPU提升80%,端到端Agent任务速度最高提升1.8倍。

Vera的优势是软硬一体,完整适配NVIDIA软件栈,对于从零搭建AI工厂的客户,整套硬件协同效率极高;但短板同样明显,它深度绑定NVIDIA生态,在异构混合硬件环境中灵活性受限,同时88核设计,单线程性能对比顶级x86处理器仍存在差距,更偏向AI原生负载,而非通用企业业务。

四方竞合:Agent时代CPU市场格局推演

梳理四款代表性产品,可以看见四种截然不同的生存策略。

英特尔、AMD的x86阵营,依靠成熟生态守基本盘,面向存量企业市场,解决传统IT向Agent迁移的现实问题,适合混合负载、政企、本地部署,挑战在于持续优化能效,应对Arm、NVIDIA的性能冲击。

Arm AGI CPU高举能效密度大旗,瞄准云原生全新AI基础设施,服务超大规模云厂商,依托Arm生态快速扩张,需要持续补齐企业软件适配短板。

NVIDIA Vera CPU走垂直一体化路线,CPU服务自家GPU生态,争夺AI工厂新建市场,最大化整套AI系统端到端效率,但生态封闭是一把双刃剑。

行业不再是简单x86一家独大,也不是GPU通吃一切。Agent负载本身高度分化:企业内部复杂业务智能体,强依赖现有数据库、中间件,x86依然是首选;公有云上大规模并发Agent集群,能效优先,Arm具备极强竞争力;AI原生大模型企业搭建AI工厂,追求CPU‑GPU协同最优,NVIDIA Vera会成为重要选项。

市场结构随之改变,CPU不再是GPU的廉价配套。多家投行上调服务器CPU市场规模预期,预计2030年Agent带来数百亿新增市场,CPU‑GPU配比逐步走向均衡,CPU不再是配角,而是定义整套Agent系统吞吐、延迟、成本上限的核心组件。

破除GPU万能论:重新理解CPU在AI时代的底层价值

很长一段时间,行业陷入一个认知误区:AI等于大模型,大模型等于GPU算力。Agent浪潮戳破这个误区。大模型负责生成内容,但真正要让AI去“做事”,执行工具调用、访问外部系统、运行代码、多轮循环校验,都离不开通用计算。GPU擅长大规模同质并行矩阵运算,但面对大量分支、循环、随机访问、强隔离沙箱这类高度异构的任务,CPU才是最优载体。

GPU决定模型思考有多快,CPU决定Agent能不能真正把事情做成。很多项目大模型跑分很漂亮,上线之后并发一高就超时、报错、吞吐量上不去,问题往往不在GPU,而在CPU编排层的短板。

当然,重估CPU价值,并不意味着GPU的重要性下降,而是算力分工回归理性。Agent时代是CPU+GPU协同时代,不存在谁替代谁。未来优秀AI基础设施,必须同时兼顾GPU推理能力,以及CPU的单核性能、内存带宽、虚拟化隔离、加速器调度能力。

面向未来,芯片厂商的竞争维度也发生变化:不再只比拼峰值算力,而是比拼整套系统端到端的Agent任务吞吐。软件适配、虚拟化栈、内存子系统、CPU‑加速器互联,权重持续抬升。英特尔、AMD、Arm、NVIDIA四家的新一代CPU产品同台竞技,本质上是对Agent时代算力架构路线的押注。

当AI从“聊天”走向“行动”,被低估许久的CPU,终于迎来属于自己的时代。

©本站发布的所有内容,包括但不限于文字、图片、音频、视频、图表、标志、标识、广告、商标、商号、域名、软件、程序等,除特别标明外,均来源于网络或用户投稿,版权归原作者或原出处所有。我们致力于保护原作者版权,若涉及版权问题,请及时联系我们进行处理。
地址:北京市朝阳区北三环东路三元桥曙光西里甲1号第三置业A座1508室 电话:13391790444或(010)62178877
版权所有:电脑商情信息服务集团 北京赢邦策略咨询有限责任公司
声明:本媒体部分图片、文章来源于网络,版权归原作者所有,我司致力于保护作者版权,如有侵权,请与我司联系删除

京ICP备:2022009079号-2

京公网安备:11010502051901号

ICP证:京B2-20230255