在近日举办的 Google Cloud 大会上，Google 第七代 TPU「Ironwood」正式亮相，其为 Google 迄今为止性能最强、可扩展性最高的定制 AI 加速器，也是首款专为推理设计的加速器。

相较于 Google 第一代 TPU，Ironwood 推理性能猛涨 3600 倍，能耗效率提升 29 倍；而与上一代 Trillium 相比，Ironwood 在能耗效率上也实现了 2 倍的提升。

硬件方面：

• Ironwood 搭载了高达 192GB 的显存，在带宽方面提升到至 7.2 Tbps，双向带宽也增加到 1.2 Tbps，让数据、芯片之间的传输速度更快，提升大规模分布式训练和推理的效率。
• Ironwood 最高规格「9216 版本」算力总计可达到 42.5 Exaflop（每个独立芯片峰值算力为 4614 TFLOPs），届时 Ironwood 的算力是世界上最大的超级计算机 El Capitan 的 24 倍以上。

据介绍，Ironwood 是为支持下一阶段的生成式人工智能及其巨大的计算和通信需求而构建的。它可扩展至 9216 个液冷芯片，并通过突破性的片间互连（ICI）网络连接起来，总功率接近 10 兆瓦。它是谷歌云人工智能超级计算机架构的几个新组件之一，该架构针对要求最苛刻的人工智能工作负载对硬件和软件进行了优化。

(文/开源中国)