「Scale-Across」對未來推理AI的發展有何重要性？

「Scale-Across」對未來推理 AI 發展的重要性

NVIDIA 提出的「Scale-Across」概念，旨在通過新一代網路技術將分散的資料中心整合為邏輯上的單一 AI 超級電腦，這對未來推理 AI 的發展至關重要。傳統的 Scale-Up（向上擴充，升級單一伺服器）和 Scale-Out（向外擴張，增加伺服器數量）方法在應對日益增長的算力需求時面臨限制，而 Scale-Across 將多個資料中心視為一個整體來協同運作，能夠更有效地滿足推理 AI 對算力的需求。

實現「Scale-Across」的關鍵技術

為實現「Scale-Across」，NVIDIA 推出了一系列關鍵技術。NVLink Fusion 平台在多個資料中心之間建立高速互聯，實現資料的快速傳輸和共享。Spectrum XGS 矽光子交換器利用光子技術提供更高的頻寬和更低的延遲，從而提升資料中心之間的協同運作效率。這些技術的整合使得企業能夠跨越多個資料中心，建立統一的運算資源池，為推理 AI 提供強大的算力基礎。

「Scale-Across」的未來展望

隨著推理 AI 的興起，單一硬體已經難以滿足快速膨脹的算力需求。「Scale-Across」概念的實現，使企業能夠更靈活地調用和分配運算資源，更好地應對各種 AI 應用場景。NVIDIA 將持續投入 GPU、CPU、網路和系統的研發，為 Gigawatt（GW）級 AI 資料中心奠定基礎，推動「Scale-Across」概念的實現，這將極大地推動未來推理 AI 的發展。