高通鎖定AI推論（Inference）市場，這將如何影響現有的AI訓練（Training）市場格局？

高通進軍 AI 推論市場對 AI 訓練市場的潛在影響

高通公司宣布推出針對資料中心的 AI 加速器產品線，正式進軍以 AI 為核心的伺服器市場，此舉在資本市場引起高度關注，股價應聲上漲 11%。此舉不僅挑戰了輝達（NVIDIA）和超微（AMD）在 AI 加速器市場的主導地位，也可能對現有的 AI 訓練市場格局產生顯著影響。

高通的市場定位與技術策略

目前，AI 加速器市場由輝達主導，AMD 位居第二。此外，Google、Amazon、Microsoft 和 OpenAI 等大型雲端和模型供應商也在積極開發自研加速器。高通過去的重點主要在行動和無線晶片領域，此次轉向資料中心，旨在通過差異化的能效和成本優勢切入 AI 基礎設施賽道。高通計劃在 2026 年推出 AI200，並在 2027 年推出 AI250，這兩款產品都可整合為佔滿整個機櫃的液冷系統，直接對標輝達和 AMD 已提供的整櫃 GPU 方案。與許多競爭對手側重於 AI 訓練不同，高通的新產品明確聚焦於 AI 推論應用，即在雲端環境中高效執行已訓練完成的 AI 模型。

對 AI 訓練市場的潛在影響

高通選擇優先發展 AI 推論市場，可能會對現有 AI 訓練市場產生以下幾方面影響：

1. 市場分化：高通的進入可能會加速 AI 市場的分化，使得 AI 訓練和 AI 推論市場更加專業化。專注於推論的晶片將更注重能效和成本效益，而訓練晶片則將繼續追求更高的計算性能。
2. 生態系統競爭：高通的加入可能會引發 AI 生態系統的競爭加劇，促使各家公司在軟硬體整合、開發者工具和應用支持方面投入更多資源，從而推動整個 AI 產業的創新。
3. 成本結構優化：通過提供更具成本效益的 AI 推論解決方案，高通有望降低 AI 應用的總體成本，使得更多企業能夠負擔得起 AI 技術，從而擴大 AI 的應用範圍。

此外，高通還發布了「超大規雲商等級」AI 軟體堆疊，從應用層至系統軟體層優化推理，支援主流機器學習框架與推理引擎、生成式 AI 框架，以及針對 LLM/LMM 的推理優化技術。這些舉措將有助於開發者更輕鬆地部署和優化 AI 模型，進一步推動 AI 推論市場的發展。