Google 透過垂直整合軟硬體，實現的「軟硬體完美協同」在 AI 推理領域提供了哪些獨特價值？

Google 軟硬體垂直整合在 AI 推理領域的獨特價值

Google 透過垂直整合軟硬體，在 AI 推理領域實現了顯著的獨特價值。隨著 AI 應用從模型訓練轉向實際部署，模型推理的重要性日益增加。Google 的策略性做法，特別是透過其第七代 TPU「Ironwood」，旨在於此領域取得領導地位。

Ironwood 的效能與設計哲學

Ironwood 單晶片的浮點運算效能高達 4.6 PetaFLOPS，足以與 NVIDIA 的頂尖 Blackwell 架構相媲美。Google 展示了 Ironwood 的擴展能力，可將多達 9,216 顆晶片組成一個「Pod」（陣列），形成總算力高達 42.5 ExaFLOPS 的超級運算集群。此設計哲學與 NVIDIA 的方法不同，NVIDIA 傾向於建立由數十個頂級 GPU 組成的精銳團隊，而 Google 則選擇建立由近萬個基因改造士兵組成的羅馬軍團，強調規模和效率。

Google 的戰略轉變與市場認可

Google 認為 AI 的前半場是模型訓練，NVIDIA 已在此領域佔據主導地位。然而，AI 的後半場是模型推理，這是一個持續且規模更大的日常營運。Ironwood 專為大規模、高效、低成本的推理而設計。Anthropic 對 Ironwood 的大量訂單（100 萬顆 TPU）是對 Google 戰略的最有力支持，表明 Anthropic 相信 Google 的羅馬軍團架構在推理戰場上具有極高的擴展性和經濟效益。Google 透過垂直整合，從晶片設計到數據中心網路和軟體框架，實現了軟硬體的完美協同，這是其他公司難以企及的優勢。