輝達創辦人暨執行長黃仁勳指出，目前已來到「推理的轉折點」，這意味著AI應用不再僅限於訓練模型，而是將重心轉向實際應用與部署。隨著Token生成的需求快速攀升，全球正積極投入AI工廠的建設，以滿足市場對AI推理日益成長的需求。AI工廠的概念，指的是一個整合硬體、軟體與服務的平台，旨在加速AI模型的開發、部署與管理，讓企業能夠更高效地利用AI技術。
為了應對AI推理需求的爆發式成長，輝達正積極擴展其AI基礎設施生態系。輝達與Marvell的策略合作便是一例，透過NVLink Fusion平台整合技術，雙方將強化AI資料中心與電信網路基礎設施的布局。Marvell將加入輝達的「AI工廠」體系與AI-RAN架構，提供客製化運算晶片（XPU）與相容NVLink Fusion的scale-up網路，而輝達則提供包含Vera CPU、ConnectX網卡、BlueField DPU、NVLink互連與Spectrum-X交換器等完整基礎架構。
輝達的策略核心是走向平台化，透過整合ASIC（特殊應用積體電路）能力，降低企業自研AI解決方案的門檻。NVLink Fusion的設計，允許第三方業者在相容架構下導入自製晶片，打造半客製化的AI系統，同時維持與輝達GPU及整體生態系的相容性。此舉不僅能滿足企業對客製化AI運算的需求，同時也能鞏固輝達在AI基礎設施領域的主導地位，讓企業在其生態系內取得接近客製化的效能，降低自行研發ASIC的誘因。
輝達正透過一系列投資，持續擴大其在AI基礎設施關鍵環節的影響力。除了對OpenAI高達1000億美元的合作投資，以及投資英特爾50億美元共同開發晶片外，輝達還以20億美元的相同價碼，投資EDA大廠新思科技、光子技術公司Lumentum與Coherent，以及AI雲端服務公司Nebius。這些投資顯示輝達正積極布局算力、網路與光互連等領域，鞏固其在AI生態系統中的領導地位。
隨著AI應用持續深入各行各業，AI工廠的建設將成為企業提升競爭力的關鍵。輝達與Marvell的合作，以及輝達的平台化策略，都顯示了AI基礎設施正朝向更開放、客製化與高效能的方向發展。未來，如何在輝達的生態系統中，利用其提供的基礎設施與技術，打造出符合自身需求的AI解決方案，將是企業在AI工廠競賽中勝出的關鍵。
This is a simplified version of the page. Some interactive features are only available in the full version.
本頁為精簡版，部分互動功能僅限完整版使用。
👉 View Full Version | 前往完整版內容