搭載 8 顆 NVIDIA H100 的 AI 伺服器成本為何？

搭載 8 顆 NVIDIA H100 的 AI 伺服器成本分析

AI 伺服器與一般伺服器相比，最大的差異在於其強大的運算能力，這主要歸功於額外配置的 GPU、ASIC、FPGA、TPU 等晶片。這些晶片使 AI 伺服器在處理深度學習和機器學習等任務時，能提供遠高於一般伺服器的效能。然而，這種高效能也伴隨著更高的成本。

AI 伺服器與一般伺服器成本的顯著差異

由於 AI 伺服器採用特殊的晶片配置，其成本遠高於傳統伺服器。根據《DIGITIMES》的數據，傳統 x86 架構伺服器的成本約為 1 萬美元，而一台搭載 8 顆 NVIDIA H100 的 AI 伺服器，成本則接近 27 萬美元。這顯示 AI 伺服器的成本是傳統伺服器的數十倍，主要原因是 GPU 等 AI 晶片的價格非常昂貴。儘管如此，大型雲端服務供應商仍在持續擴大採購 AI 伺服器，預計 AI 伺服器在整體伺服器出貨量中的佔比將持續增加。

台灣廠商在全球 AI 伺服器供應鏈中的關鍵地位

台灣電子代工廠在全球 AI 伺服器市場中扮演著至關重要的角色。包括鴻海、廣達、緯創、英業達、和碩、仁寶等廠商，都獲得了國際大廠的認可，成為 Meta、Google 以及 NVIDIA、AMD 等公司的重要客戶。這些廠商在 AI 伺服器的各個製造階段都有參與，從 L6 主機板製造到 L12 整機櫃解決方案。其中，鴻海在全球 AI 伺服器市場中佔據了 40% 的市佔率，是 AI 伺服器產業的領導者。其他廠商如英業達在 L6 階段的主機板製造中佔有重要地位，而緯穎則專注於 L6 與 L12 階段，提供資料中心整體解決方案。