谷歌新增两款AI计算系统：同一代芯片，为何分出四种用法？

同一代AI芯片，谷歌今年已经扩展出四套系统。新增的两款，一款重点保护处理中的敏感数据，另一款把两颗芯片放进同一个封装，为超长上下文提供更多计算和数据通路。

11月9日，谷歌宣布推出TPU 8tx和TPU 8i Max。TPU是谷歌专门为AI计算设计的处理器。加上4月公布的8t和8i，谷歌的第八代产品组合开始覆盖大规模训练、低延迟推理、机密计算和大上下文处理等不同需求。[1-2]

这次发布的重点，是用已有芯片搭建更有针对性的计算系统。8tx采用与8t相同的芯片，8i Max则将两颗8i芯片组合在一个封装中。围绕芯片调整内存、网络、主机和安全机制，系统的适用任务也随之改变。

为什么AI计算开始分得更细

训练模型，要让大量芯片长时间协同处理数据；运行模型，则要及时回应用户请求。“推理”就是训练好的模型处理问题、生成结果的过程。

AI代理进一步增加了任务之间的差异。代理会连续检索资料、读取文件、调用工具，甚至与其他代理协同工作。某个环节等待过久，就可能拖慢后面的整串任务。

因此，训练集群通常更重视大规模协同效率；服务用户的系统则要兼顾响应速度、可承载请求数和运行成本。处理私有资料时，还要增加安全要求。一次读取整套代码或大量视频资料，又会明显提高对数据存取的需求。

谷歌在4月先将第八代产品分为两条主线：8t侧重大规模训练，8i侧重低延迟推理。11月的新系统，继续沿着这些不同工作负载细分。[1-2]

8tx：把敏感数据的保护延伸到计算期间

金融、医疗等机构如果要让AI处理私有数据，除了存储和传输环节，还会关注数据进入内存、参与运算时的保护。

8tx主打的“机密计算”，就是在这个阶段通过硬件机制隔离、保护数据及模型。按谷歌介绍，它将8t芯片与AMD第五代服务器处理器配合，提供硬件级保护。[1]

系统同时采用为低延迟推理设计的网络。谷歌称，相比8t，8tx的延迟最高可降低约一半；它也能承担小规模训练，让机构在同一套系统内进行模型运行和定制。[1]

这为有严格数据要求的企业提供了一种系统选择。实际采用时，企业仍要核对其安全机制覆盖什么、模型和数据如何管理，以及现有软件能否顺利运行。

8i Max：给大上下文增加数据通路

当模型阅读整套代码，或者多个代理反复处理长篇资料，处理器需要频繁取得大量数据。数据送得不够快，计算单元就会等待。

8i Max把两颗8i芯片放在同一个封装中。谷歌公布的对比口径是：相对8i，计算能力、片上静态内存容量和高带宽内存的带宽均翻倍。[1]

其中，片上内存可以让常用数据更靠近计算单元；内存带宽则描述每秒能搬运多少数据。这些变化针对的是大上下文场景中的数据供给问题。

双芯片封装也提高了既有机架空间中的芯片密度。对空间和供电都紧张的数据中心，单位机架能承担多少有效工作，是采购和部署时的重要指标。具体应用能提高多少速度，仍需要按模型、输入长度和软件配置测试。

从内部专用芯片，走向外部开发平台

产品细分背后，还有使用者的变化。谷歌称，TPU客户已接近100家，需求来自前沿模型公司、交易机构、零售商和高校等不同组织，部署方式也扩展到客户自己的数据中心。[1]

用户增加后，软件迁移成本会直接影响硬件选择。

10月，谷歌已开源原生支持常用AI开发框架PyTorch的TorchTPU软件栈，试图让开发者沿用熟悉的工具和代码。它也与常见的模型服务、分布式训练工具进行整合。[3]

这两步相互配合：硬件按任务拆分，软件降低采用门槛。对AI基础设施市场而言，竞争正在延伸到整套系统的效率、开发体验和部署条件。

谷歌目前公布的性能数字主要来自自身测试和产品说明。判断这批系统的商业竞争力，还需要补上不同任务的实测成本、具体供货安排和可用规模。四套系统把选择分得更细，也要求用户更清楚自己要运行什么任务。

参考资料

[1] VAHDAT A. Our newest TPUs: 8tx and 8i Max, built for the agentic era[EB/OL]. Google Cloud, 2026-11-09[2026-11-10].

[2] VAHDAT A. Our eighth generation TPUs: two chips for the agentic era[EB/OL]. Google[2026-11-10].

[3] LOHMEYER M, JIA B. TorchTPU is now open source: Run native PyTorch on TPUs[EB/OL]. Google Cloud, 2026-10-20[2026-11-10].