輝達如何透過「極致協同設計」來提升AI工廠的效能與降低成本？

輝達透過「極致協同設計」提升AI工廠效能與降低成本

輝達正從晶片供應商轉型為AI生產線的系統設計者，其核心技術為「極致協同設計（Extreme Co-Design）」，透過將晶片、伺服器與網路進行一體化設計，達到效能提升約10倍，並將每token成本降低至1/10的目標。這種設計思維強調各部件間的緊密協作，以最大化整體系統的效率。

NVLink高速互連系統的應用

輝達的NVLink 72高速互連系統，能讓72顆Blackwell GPU或144個GPU在同一機櫃中協同運作，總頻寬高達130TB/s，相當於全球網路高峰流量。此系統透過高頻寬互連，實現GPU間的快速數據傳輸，顯著提升AI運算的效能與效率。

AI工廠的量產與未來發展

目前，輝達已出貨約600萬顆Blackwell GPU，並預估至2026年前（不含中國）的訂單金額可達5,000億美元。新一代AI超級電腦Vera Rubin預計明年開始生產，採用全液冷、無線纜設計，每座系統重達兩噸，內含超過130兆個電晶體。一座1GW等級的AI工廠將部署約8,000至9,000台此類機櫃，成為未來AI基礎設施的主力。