Google發布第七代TPU「Ironwood」，其核心目標為何？

Google 第七代 TPU「Ironwood」的核心目標

Google 發布第七代 TPU「Ironwood」的核心目標是將 AI 戰爭從上半場的「訓練賽」轉入下半場的「應用賽」。隨著 AI 時代的演進，「推理 (Inference)」的重要性日益增加，Google 試圖在這片新領域中佔據領導地位。

Ironwood 的性能與設計哲學

Ironwood 單晶片的浮點運算性能達到 4.6 PetaFLOPS，可與 NVIDIA 最強大的 Blackwell 架構相媲美。Google 展示了 Ironwood 的擴展能力，可將多達 9,216 顆晶片組成一個「Pod」（陣列），形成總算力高達 42.5 ExaFLOPS 的超級運算集群。這種設計哲學與 NVIDIA 不同，NVIDIA 傾向於打造由幾十位頂級 GPU 組成的精英戰隊，而 Google 則組建一支由近萬名基因改造士兵組成的羅馬軍團，強調規模和效率。

Google 的戰略轉變與市場認可

Google 認為 AI 的上半場是模型訓練，NVIDIA 已在此領域佔據主導地位。然而，AI 的下半場是模型推理，這是一個持續且規模更大的日常運營。Ironwood 專為大規模、高效率、低成本的推理而生。Anthropic 對 Ironwood 的大量訂單（100 萬顆 TPU）是對 Google 戰略的最有力支持，表明 Anthropic 相信 Google 的羅馬軍團架構在推理戰場上具有極高的擴展性和經濟效益。Google 透過垂直整合，從晶片設計到數據中心網路和軟體框架，實現了軟硬體的完美協同，這是其他公司難以企及的優勢。