簡立峰認為,台灣過去錯失了行動裝置軟硬整合的機會,但邊緣運算與小語言模型將是台灣產業的新機會。隨著蘋果推出內建AI手機,邊緣AI的發展備受矚目。他強調,適合在終端設備運算的小語言模型將成為開發重點,台灣可在此領域發展。
簡立峰認為,透過提升邏輯推理能力,邊緣AI將有更多可能性,並加速AI代理的進程。他特別提到AI的閱讀能力值得關注,這使其能夠自主學習。AI的數據運算能力已超越人類,如果資料足夠,AI能做到很多人類做不到的事情。簡立峰強調,AI的發展應讓民眾「有感」,例如新聞台直播即時翻譯,將應用轉化為商機。
簡立峰認為商機體現在邊緣AI與AI機器人領域,如AI PC、AI手機和物聯網。過去台灣在行動世代的科技發展較為失落,但在軟體和軟硬整合方面沒有優勢。適合在終端設備運算的小語言模型將是新一波開發重點。模型縮小能降低成本,若效能也能提高,將達到「甜蜜點」。簡立峰建議台灣科學家專注於優化模型,並保持模型的靈活度,不被單一雲端公司的模型綁住。縮小模型的方法包括量化、修枝、知識蒸餾和LoRA等技術。簡立峰強調,AI的推理能力和邊緣計算的應用將成為關鍵,隨著硬體性能提升和模型縮小技術進步,台灣在AI領域的競爭力將持續增強。
This is a simplified version of the page. Some interactive features are only available in the full version.
本頁為精簡版,部分互動功能僅限完整版使用。
👉 View Full Version | 前往完整版內容