谷歌扩充第八代TPU产品线:推出TPU 8tx、TPU 8i Max

作者: 李祥敬

责任编辑: 李祥敬

来源: CBISMB

时间: 2026-11-10 14:04

关键字: 智能体 ,TPU ,谷歌

浏览: 0

点赞: 0

收藏: 0

当地时间11月9日,谷歌在官方博客The Keyword发布第八代TPU两款新增系统TPU 8tx与TPU 8i Max,补齐智能体时代两类差异化算力需求。加上今年4月Cloud Next发布的TPU 8t、TPU 8i,第八代TPU产品线至此形成四款系统组合,这也是谷歌首次在一年之内推出四套TPU系统。两款新品均基于已有硅片做系统级定制,并非全新芯片,预计2027年正式上线,本次发布未披露定价信息。

谷歌芯片团队负责人Amin Vahdat表示,两款新品与DeepMind协同设计,目标是解决当前AI部署中两个明确瓶颈:强监管场景下的计算态数据保护,以及长上下文负载下的内存墙问题。随着AI Agent链式推理、多步骤工具调用成为主流负载,单一通用推理硬件已经难以兼顾安全合规与超大上下文的性能诉求。

TPU 8tx定位硬件级机密计算推理平台,同时支持小规模微调与轻量训练,面向政府、金融、受监管企业等敏感数据场景。该系统以TPU 8t硅片为基础,搭配第五代AMD EPYC CPU,实现计算过程中的数据与模型权重隔离保护。传统加密方案多集中在存储与传输环节,数据进入内存计算阶段需要解密,TPU 8tx的硬件隔离域可在计算全程维持敏感资产的保护状态,满足数据主权合规要求。硬件层面沿用Boardfly低延迟推理网络,谷歌给出的数据显示,对比原生TPU 8t,其推理延迟最高可降低2倍,安全能力引入带来的性能损耗控制在接近零的水平。该系统可在同一集群完成私有数据微调、模型蒸馏、强化学习Agent训练与机密推理,敏感数据无需跨集群迁移。

TPU 8i Max面向百万Token级超大上下文推理负载,覆盖长文档理解、全量代码库检索、多模态长序列处理、科研推理以及Agent多轮链式推理场景。该系统采用同封装双TPU 8i芯片方案,算力、片上SRAM、HBM带宽相比单颗TPU 8i全部翻倍,在原有机架空间内提升推理密度。设计思路针对长上下文Prefill阶段与KV Cache吞吐瓶颈,通过算力与内存带宽同步扩容,缓解长上下文场景下常见的算力饥饿问题,适合高密度推理集群部署。

至此,第八代TPU四条产品线分工清晰:TPU 8t面向大模型预训练,侧重单位功耗有效算力产出;TPU 8i面向标准低延迟推理,支撑实时Agent交互;TPU 8tx主打机密计算、安全推理与私有微调;TPU 8i Max聚焦超大上下文高密度推理。

本次硬件发布同步配套软件栈更新,降低TPU对开源模型生态的适配门槛。谷歌正式开放TorchTPU,原生支持PyTorch与HuggingFace模型,vLLM、SGLang等主流推理引擎可直接适配,减少模型迁移改造成本。TPU Sync作为分级内存管理组件,统一调度HBM、主机内存、存储与网络资源,自动分片KV缓存,官方数据称长上下文首token延迟(TTFT)降幅最高超过90%。

针对Agent负载的闲置浪费问题,谷歌推出Agent Compute Engine,可在Agent等待外部工具、数据库回调的间隙毫秒级暂停会话、转出内存,提升集群算力利用率。底层调度层Cloud Pathways支持GKE环境下TPU动态切片,能够弹性切分、合并TPU拓扑;配套预览版TPU Agent Suite,支持自然语言驱动内核调优、性能瓶颈诊断,对接主流AI开发工具。

从产品策略来看,谷歌当前选择同代芯片模块化迭代路线,不再等待下一代全新硅片,依靠封装、内存、网络、安全模块的组合快速交付细分版本,和英伟达以通用GPU为主、依靠软件生态覆盖场景的路线形成差异化。谷歌披露,当前TPU付费客户规模已接近100家,覆盖前沿AI实验室、量化交易、零售、高校等机构,TPU集群同时支撑内部Gemini体系与外部云客户,也支持客户本地部署。

行业层面,AI Agent、长上下文、机密计算正在成为算力基础设施的新增刚性需求。过去TPU迭代周期约两年,而第八代TPU在半年内完成四次系统发布,节奏明显加快,反映云厂商算力供给从单一性能竞赛,转向按负载、合规要求做垂直细分。但两款新品的实际落地效果,仍取决于客户侧模型适配、集群运维成本以及长期TCO表现。

信息来源:谷歌官方博客The Keyword

发布时间:2026年11月9日

©本站发布的所有内容,包括但不限于文字、图片、音频、视频、图表、标志、标识、广告、商标、商号、域名、软件、程序等,除特别标明外,均来源于网络或用户投稿,版权归原作者或原出处所有。我们致力于保护原作者版权,若涉及版权问题,请及时联系我们进行处理。
地址:北京市朝阳区北三环东路三元桥曙光西里甲1号第三置业A座1508室 电话:13391790444或(010)62178877
版权所有:电脑商情信息服务集团 北京赢邦策略咨询有限责任公司
声明:本媒体部分图片、文章来源于网络,版权归原作者所有,我司致力于保护作者版权,如有侵权,请与我司联系删除

京ICP备:2022009079号-2

京公网安备:11010502051901号

ICP证:京B2-20230255