Google Ironwood TPU 的單晶片浮點運算性能為何？

Google Ironwood TPU 單晶片浮點運算性能

Google 最新發布的第七代 TPU，Ironwood，其單晶片浮點運算性能達到 4.6 PetaFLOPS。Google 推出 Ironwood 的主要目標是將 AI 的競爭焦點從訓練轉移到應用，也就是從上半場的「訓練賽」轉向下半場的「應用賽」。Google 認為，AI 時代已經進入新的階段，「推理」（Inference）的重要性日益增加，他們希望在這個領域取得領先地位。

Ironwood 與 NVIDIA Blackwell 架構的比較

Ironwood 的單晶片性能直接對標 NVIDIA 最強大的 Blackwell 架構，甚至在某些指標上略有超越。此外，Google 展示了 Ironwood 的擴展能力，可以將多達 9,216 顆晶片組成一個「Pod」（陣列），形成總算力高達 42.5 ExaFLOPS 的超級運算集群。這與 NVIDIA 的策略不同，NVIDIA 傾向於打造由少量頂級 GPU 組成的精英戰隊，而 Google 則選擇組建大規模的協同作戰軍團，更注重規模和效率。

Google 的設計哲學與市場策略

Google 的晶片設計哲學與 NVIDIA 有所不同。NVIDIA 打造通用的 GPU，追求靈活性和強大的單體性能。而 Google 則專注於為特定任務（推理）高度優化的晶片，透過大規模的數據中心網絡將成千上萬顆晶片組成一個無縫協作的整體，追求極致的規模化效率和成本控制。Google 的策略是透過 Google Cloud 將這種成本優勢賦能給客戶，如 Anthropic。Anthropic 已訂購了 100 萬顆 Ironwood TPU，這被視為對 Google 策略的有力背書。Ironwood 不僅僅是一塊晶片，更是 Google Cloud 帝國的矛和盾。然而，Ironwood 目前僅在 Google Cloud 的「圍牆花園」內提供服務，這與 NVIDIA 向所有人出售通用 GPU 的策略形成對比。