Google发布TPU 8tx与 8i Max,第八代TPU一年内扩至四款系统
Google官方博客称,TPU 8tx面向需要硬件级保密计算的受监管企业与政府,TPU 8i Max把两颗 8i芯片封装在一起以应对百万级token上下文;这是Google首次在一年内推出四款TPU系统。
AI解读:据Google AI官方博客作者Amin Vahdat于 2026 年 11 月 9 日发布的内容,第八代TPU组合在原有 8t(大规模训练)和 8i(实时推理)之外新增两款:TPU 8tx面向安全与机密推理,TPU 8i Max面向超大上下文窗口和每机架最高算力密度。Google称这是其首次在一年内推出四款TPU系统。
两款新系统是围绕已有芯片重新组织的系统配置,而非全新硅片:8tx与 8t基于同一硅片,8i Max由两颗低延迟 8i芯片封装在同一封装内。Google把这种“围绕芯片构建系统”的做法解释为其模块化架构的延续,称可在数月而非数年内交付专用超级计算机。
8tx与 8t共用芯片并搭配第五代AMD EPYC CPU主机,Google称它在主动使用中保持敏感数据与模型权重加密隔离,并采用为实时推理设计的低延迟Boardfly网络,相比 8t延迟降低最多 2 倍、性能损失接近零。
Google称 8i Max的算力、SRAM和HBM带宽均为 8i的两倍,且在现有每机架占位内放入两倍硅片,使数据中心在每平方英尺和每瓦功耗上部署更多算力。这些数字均来自Google的自述。
Google同时公布若干软件与云侧进展:开源TorchTPU使PyTorch代码与Hugging Face模型可在TPU上原生运行;TPU agent suite处于预览阶段;TPU Sync开源,Google称可将KV传输延迟和首token时间降低 90% 以上;GKE dynamic slicing与Cloud Pathways已正式可用。
适用范围上,Google称TPU业务目前有近 100 家客户,涵盖前沿实验室、交易公司、零售商和大学,并称已有客户把TPU部署进自有数据中心。前述性能和延迟数字为Google单方说法,来源未给出第三方复现或独立评测细节。
Google AI官方博客 2026 年 11 月 9 日发文,宣布第八代TPU组合新增TPU 8tx和TPU 8i Max两款系统。文章作者为Amin Vahdat。Google称,这是其首次在一年内推出四款TPU系统,第八代现有 8t、8i、8tx、8i Max四款。
Google称TPU业务目前有近 100 家客户,包括前沿实验室、交易公司、零售商和大学;用例覆盖训练和服务Gemini模型、agentic工作负载、为Google Cloud客户提供服务,以及最近允许客户把TPU直接部署进自有数据中心。
两款新系统的定位
Google在 2026 年 4 月的Google Cloud Next上推出 8t和 8i:8t面向大规模训练,8i面向实时推理。Google称 8t相比上一代TPU训练性能提升最多 2.7 倍,8i的推理性价比提升 80%。
新增的 8tx面向受监管企业和政府的机密推理,也适用于小规模训练;8i Max则针对内存墙问题,面向需要同时处理整个代码库或数小时视频的多agent场景。Google称四款系统分别对应agentic生命周期的不同阶段。
8tx的加密推理路径
Google称,通常数据在存储或传输时加密,但计算机处理时必须在内存中解密。8tx基于与 8t相同的硅片,搭配第五代AMD EPYC CPU主机,把安全能力做进硬件层,使敏感数据和模型权重在活跃使用中仍保持保护与隔离。
8tx采用Google为实时推理打造的Boardfly低延迟网络。Google称其相比 8t延迟最多降低 2 倍,性能损失接近零。Google还称,训练级算力配快速推理网络,使团队可在同一系统上完成私有数据微调、大模型蒸馏和强化学习训练,无需在集群间迁移敏感数据。
8i Max的双芯片封装
Google称 8i Max把两颗低延迟的 8i芯片封装在同一封装内,算力、SRAM和HBM带宽均为 8i的两倍,使大规模工作负载不因等待数据而停顿。
Google称该封装方式在现有每机架占位内放入两倍硅片,数据中心因此可在每平方英尺和每瓦功耗上部署更多算力。8i本身的设计目标是把芯片间通信延迟最多降低一半,8i Max延续这一方向。
同步公布的软件与云侧变化
Google称上月已开源TorchTPU,使PyTorch代码和Hugging Face模型可在TPU上原生运行,无需重写代码,并为vLLM、SGLang等开源推理引擎提供TPU后端。新的开源TPU agent suite处于预览阶段,可接入Claude Code、Cursor和Google Antigravity等编码工具。
Google称在InferenceX和AgentX基准上,其vLLM-TorchTPU软件栈取得领先的性价比成绩;来源未列出具体分数。
Google还开源了模型状态层TPU Sync,称可把芯片HBM、主机DRAM、共享存储和数据中心网络统一为分层内存,将KV传输延迟和首token时间降低 90% 以上。云端方面,Cloud Pathways和GKE dynamic slicing已正式可用,后者借助光路交换动态拼装或切分TPU拓扑,Google称可把任务启动时间最多缩短 5 倍、故障恢复最多加快 4.5 倍。