GB200 NVL72機架的總功耗為何？為何氣冷散熱無法滿足其需求？

GB200 NVL72 機架的總功耗

根據資策會的資料，一台 GB200 NVL72 機架連接了 36 個 Grace CPU 和 72 個 Blackwell GPU，總功耗高達 116 千瓦（kW）。相較之下，目前廣泛使用的氣冷散熱方案僅能處理約 20 千瓦的熱功耗，這使得氣冷散熱在應對 GB200 NVL72 機架的需求時存在顯著的差距。

氣冷散熱為何無法滿足 GB200 NVL72 的需求？

由於 GB200 NVL72 機架的總功耗高達 116 千瓦，是氣冷散熱能力上限的近 6 倍，因此氣冷散熱方案無法有效處理其產生的熱量。即使採用結合熱管和熱板設計的高階氣冷技術 3D VC，並增加大量風扇，仍然難以滿足散熱需求。工研院的分析指出，雖然增加風量和風速可以提高熱對流速度，但過高的風扇轉速會帶來震動和噪音等負面影響，對伺服器和工作環境造成不良影響。

液冷散熱成為解決方案

面對氣冷散熱的不足，液冷散熱技術成為解決高功耗 AI 伺服器散熱問題的主要方向。液冷技術可分為「水對氣」和「水對水」兩種。NVIDIA 的高階晶片 GB200 NB072 採用水對水的液冷散熱方案。這種架構也是目前許多伺服器代工廠商，如美超微、技嘉子公司技鋼、緯穎、英業達、雲達等積極投入的技術。