隨著AI技術的發展，AI的運作模式正從被動回應轉為主動執行任務的代理。在這樣的轉變下，CPU扮演的角色也隨之改變，不再僅僅是輔助GPU運算的配角，而是成為支撐整個AI系統運作的基礎設施。AI代理需要長時間運作，甚至同時啟動多個任務流程，因此對CPU的效能與穩定性提出了更高的要求。
在過去的AI應用中，CPU主要負責初步的資料處理，然後將任務交由GPU進行繁重的推理運算。然而，在AI代理的工作負載中，CPU佔據整體延遲的過半比例，成為影響效率的關鍵因素。AI代理需要執行複雜的任務，例如將大型目標拆解為多個子任務，並協調不同的代理協同工作。這些任務的安排、資源的調度，以及系統的互動，主要都由CPU負責。
為了解決CPU在AI代理時代可能面臨的效能瓶頸，輝達推出了專為AI代理工作負載設計的Vera CPU，以及不搭載GPU的純CPU伺服器配置。此舉反映了輝達在AI晶片戰略上，已從過去單純強調GPU效能，轉向更全面的系統架構考量。CPU負責決定何時呼叫模型、如何分配任務，以及如何與外部世界互動，成為連接各個環節的中樞。
輝達推出Vera CPU，並非意味著GPU的重要性降低，而是意識到在AI代理時代，CPU扮演著至關重要的角色。相較於傳統AI應用，AI代理更強調長時間運轉的效能與穩定性。一般而言，CPU在耐久性方面具有優勢，能更好地滿足AI代理對於長時間運算的需求。
當AI從被動回應問題的工具，演變為主動執行任務的代理，運算需求也從比拼爆發力的短跑，轉變為重視長時間運轉效能的馬拉松。因此，AI晶片戰略也從過去單純強調GPU效能的「GPU思維」，轉向更重視CPU在系統架構中角色的「系統架構考量」。OpenAI創始成員Andrej Karpathy曾提出的自動研究代理AutoResearch，以及Anthropic Claude Code產品負責人Boris Cherny分享的多個Claude Code AI代理協同編寫程式的案例，都顯示CPU在長時間、大規模的AI任務中扮演著關鍵角色。
This is a simplified version of the page. Some interactive features are only available in the full version.
本頁為精簡版，部分互動功能僅限完整版使用。
👉 View Full Version | 前往完整版內容