技嘉執行長李宜泰認為,將 SSD 整合至 AI 運算架構,擴展 GPU 記憶體,能顯著降低 AI 技術的開發門檻,使全球更多企業能夠參與 AI 應用。這種整合方式不僅降低了成本,也讓中小型企業能夠更輕鬆地導入大型語言模型的 AI 訓練,加速 AI 技術的普及。
群聯電子的 aiDAPTIV+ 解決方案展示了 SSD 整合至 AI 運算架構的具體應用。透過模擬記憶體功能,aiDAPTIV+ 擴展了 GPU 記憶體,取代了高成本的高頻寬記憶體 (HBM)。這種方式大幅降低了 AI 運算的成本,使得中小企業也能夠負擔大型語言模型的訓練。例如,美商 Maingear 的 PRO AI 系列工作站搭載了群聯 aiDAPTIV+,為使用者提供更具成本效益的 AI 訓練方案。
Maingear 的 PRO AI 系列工作站搭配群聯 aiDAPTIV+,提供更經濟實惠的 AI 訓練解決方案。報導指出,使用 aiDAPTIV+ 和 700 億參數的模型,只需約 150 萬台幣即可實現,突顯了 SSD 整合方案在降低 AI 導入成本方面的潛力。這使得企業在預算有限的情況下,也能夠進行 AI 模型微調和相關應用,進一步推動 AI 技術的普及和應用。
This is a simplified version of the page. Some interactive features are only available in the full version.
本頁為精簡版,部分互動功能僅限完整版使用。
👉 View Full Version | 前往完整版內容