谷歌宣布第 6 代 Trillium TPU：性能提升 4.7 倍、内存带宽翻番

5月15日消息，谷歌公司在今天召开的 I / O 2024 开发者大会上，宣布了第六代数据中心 AI 芯片 Tensor 处理器单元（TPU）--Trillium，并表示将于今年晚些时候推出交付。

谷歌首席执行官桑达尔・皮查伊（Sundar Pichai）表示，新款 TPU 交付之后，每块芯片的计算性能将比第五代提升 4.7 倍。谷歌是通过扩大芯片的矩阵乘法单元（MXU）和提高整体时钟速度来实现这一目标的。此外，谷歌还将 Trillium 芯片的内存带宽提高了一倍。

Trillium 采用了第三代 SparseCore，谷歌将其描述为“在高级排名和推荐工作负载中，处理常见大规模任务的专用加速器 "。该公司认为，这可以让 Trillium TPU 更快地训练模型，并以更低的延迟为模型提供服务。

谷歌称，新的 TPU 比第五代芯片节能 67%。