輝達H200晶片採用台積電哪種製程？

輝達H200晶片製程技術

輝達（NVIDIA）最新推出的HGX H200晶片採用台積電的4奈米製程技術。此款晶片在AI運算效能上有顯著提升，尤其是在進行擁有700億參數的Llama2模型推論時，速度幾乎達到H100的兩倍，因此被譽為「地表最強大的AI晶片」。預計將於2024年第二季開始向AWS、Google Cloud和甲骨文等雲端大廠供貨。

HBM3e記憶體技術的應用

H200晶片的一大亮點在於其記憶體容量的升級，採用了HBM3e先進記憶體，儲存空間高達141GB。這有助於進行更大規模的模型訓練和推論。HBM（高頻寬記憶體）是一種將DRAM堆疊並使用先進封裝技術生產的記憶體，透過3D立體堆疊方式在有限的晶片空間內增加儲存容量。儘管SK海力士是H100的HBM供應商，美光也在驗證其HBM3e，並有望成為H200的供應商之一，但輝達並未公布H200的HBM3e供應商具體名稱。

台灣供應鏈的參與

H200與H100相容，這意味著已完成模型訓練的企業在升級至H200時，無需更換伺服器或修改軟體版本。台灣的伺服器合作夥伴，如華碩、技嘉、鴻佰、雲達、緯創和緯穎等企業，可以直接將處理器替換為H200使用，共同受益於此一升級。此外，輝達自有的互聯技術NVLink和NV Switch也是實現加速運算的關鍵，這項技術的開發歷時十餘年，為輝達在GPU設計之外的另一項重要優勢。