黃仁勳認為AI推理的轉折點已經到來，因為AI現在能夠真正做出有生產力的工作。過去AI主要用於訓練模型，但現在越來越多時間花在推理上，也就是讓AI回答問題、寫程式或完成任務。這種轉變代表AI不再只是學習，而是能實際應用於解決問題和創造價值，因此他認為AI推理的時代已經來臨。
為了搶攻這波推理需求，輝達推出新的低延遲推理加速器Groq 3 LPU與Vera CPU，並將其納入新一代AI基礎設施平台「Vera Rubin」，主打支援大規模AI工廠部署。Groq 3 LPU採用高速SRAM記憶體架構，讓晶片在處理AI推理時能更快存取資料，並保持穩定的運算速度。Vera CPU則是專門為AI代理與強化學習等新型AI工作負載設計的處理器，在效率與速度上都有明顯提升。
黃仁勳預計2027年Blackwell與Vera Rubin架構AI晶片的營收至少會達到一兆美元，並補充說供應可能還會不足，因為運算需求會遠遠高於這個數字。過去兩年整體運算需求增加了大約100萬倍，加上推理浪潮的來襲，使得對AI晶片的需求大幅增加。這也促使輝達不斷推出新的晶片和平台，以滿足市場對高效能AI運算的需求。
This is a simplified version of the page. Some interactive features are only available in the full version.
本頁為精簡版，部分互動功能僅限完整版使用。
👉 View Full Version | 前往完整版內容