輝達創辦人黃仁勳指出，AI推理的轉捩點已到來，全球正競相建設AI工廠，以滿足快速攀升的Token生成需求。此話點出AI發展的關鍵趨勢：過去著重AI模型的訓練，現在則更加重視如何有效利用這些模型進行推理，也就是讓AI真正落地應用，產生商業價值。隨著AI技術日趨成熟，企業對AI推理能力的需求也日益增長，促使相關基礎設施的建設成為當務之急。
為掌握AI推理的龐大商機，輝達積極擴張其AI生態系。與ASIC晶片商Marvell建立策略合作關係，並投資20億美元，正是輝達的重要布局。透過NVLink Fusion平台整合技術，輝達得以強化在AI資料中心與電信網路基礎設施的布局。Marvell的客製化XPU與網路解決方案，可與輝達的GPU等基礎設施整合，為企業提供更具彈性與客製化的AI運算能力。
輝達的策略核心並非僅僅強化GPU，而是轉向平台化布局。透過將NVLink升級為NVLink Fusion，輝達將部分互連架構開放，允許第三方業者導入自製晶片，打造半客製化的AI系統。此外，輝達也積極收編ASIC路線的技術，例如收購LPU聞名的Groq團隊，並推出LPU晶片。透過整合多元方案，輝達旨在降低企業自研ASIC的誘因，鞏固其在AI基礎設施中的主導地位。
除了運算平台，輝達也積極布局矽光子技術，強化AI資料中心所需的高速光互連能力。同時，輝達也與Marvell共同推進AI-RAN應用，目標將5G與未來6G電信網路轉型為AI運算基礎設施。這些技術布局，都顯示輝達正朝向更全面的AI基礎設施供應商邁進。
除了Marvell，輝達近期還投資了EDA大廠新思科技、光子技術公司Lumentum與Coherent，以及AI雲端服務公司Nebius。這些投資都集中在AI基礎設施的關鍵環節，例如算力、網路與光互連等領域。透過大額投資，輝達正積極擴大其在AI基礎設施領域的影響力，並鞏固其領先地位。
This is a simplified version of the page. Some interactive features are only available in the full version.
本頁為精簡版，部分互動功能僅限完整版使用。
👉 View Full Version | 前往完整版內容