AMD的Instinct MI325X加速器在AI訓練和推論效能上，相較於輝達H200有哪些具體優勢？

AMD Instinct MI325X 相較於輝達 H200 在 AI 訓練和推論效能上的具體優勢

AMD 的 Instinct MI325X 加速器，在 AI 訓練和推論效能上，相較於輝達的 H200 具有一些具體的優勢。MI325X 採用台積電 4/5 奈米製程生產，並使用 CDNA 3 架構，搭載 256GB 的 HBM3E 記憶體，記憶體頻寬達到 6TB/s。

記憶體容量與頻寬的優勢

MI325X 的記憶體容量是輝達 H200 的約 1.8 倍，記憶體頻寬約為 1.3 倍。在 AI 訓練性能方面，MI325X 最高可達 H200 的 1.1 倍，而在推論效能上則可達到 1.4 倍。此外，MI325X 在 FP8 及 FP16 數據格式的算力上也是 H200 的 1.3 倍。

未來 MI350 系列的規劃

AMD 預計在 2025 年下半年推出 MI350 系列晶片，該晶片將採用台積電 3 奈米製程生產，並使用 CDNA 4 架構。MI350 的推論能力預計將達到 MI300X 的 35 倍，且記憶體容量將升級至 288GB 的 HBM3 記憶體，比輝達 Blackwell B200 的 192GB 多出 50%。在 FP4 數據格式的運算能力上，MI355X 的算力為 9.2 PFLOP，也略勝於 B200 的 9 PFLOP。