輝達如何應對推理AI對算力不斷增長的需求?
Answer
輝達如何應對推理 AI 對算力不斷增長的需求?
公布至 2028 年的架構路線圖
輝達公布了涵蓋 GPU、CPU、網路與機櫃,並延伸至 2028 年的完整架構路線圖,旨在回應推理 AI 興起後,單個 GPU 難以支撐快速膨脹的算力需求。這份藍圖不僅包含產品規劃,更宣告輝達將為 Gigawatt(GW)級 AI 資料中心奠定基礎。
提出「Scale-Across」新概念
輝達提出「Scale-Across」新概念,透過新一代乙太網路技術,將多個分散式資料中心組合成一座邏輯上的單一 AI 超級電腦,作為「Scale-Up(向上擴充)」與「Scale-Out(向外擴張)」之外的第三種擴張方式。透過 NVLinkFusion 平台,以及 SpectrumXGS 矽光子交換器,企業可以實現「Scale-Across」的目標。
從 GPU 銷售商轉型為 AI 基礎建設建構者
輝達的相關交換器與開放平台技術顯示,輝達不再只是 GPU 銷售商,而是打算成為 AI 基礎建設的建構者。隨著推理 AI 成為資料中心等級的挑戰,輝達正透過完整架構藍圖、新概念和相關技術,積極應對算力需求持續飆升的挑戰。