作者首次在個人電腦上部署大型語言模型的動機是什麼? | 數位時代

作者在個人電腦上首次部署大型語言模型的動機

作者最初在個人電腦上部署大型語言模型是因為受到其夥伴介紹的 Bolt 服務的啟發。Bolt 是一個可以自架在電腦上的服務,這使得作者無需購買訂閱的 coding 服務。透過在自己的 32GB RAM 的 Mac Mini 上自架 open source 的大型語言模型服務以及 Bolt 寫程式的服務,作者親身體驗了大型語言模型 (LLM) 的威力,並開始思考如果這些工具能更快地運行,世界會發生怎樣的改變。

部署過程及體驗

儘管在 Mac Mini 上自架的服務運行速度較慢,作者仍然能夠使用自然語言編寫網站。這種親身體驗促使他深入研究如何更有效地利用 AI 工具。由於自架 Vibe Coding 工具速度太慢,作者轉而使用 Cursor 進行開發。透過 Cursor,作者在幾天內完成了第一個應用,並部署到 Cloudflare 上。

AI First 的啟示

作者透過使用 Cursor 開發多個遊戲,如單字挑戰、AI Or NOT、2048 等,並非因為自身技術高超,而是得益於 Cursor 的強大功能。Cursor 能夠分析問題、流程、部署,並提交到 Github。這一系列實作經驗讓作者深刻體會到 AI First 的重要性,並促使他更積極地探索和應用 AI 技術。


This is a simplified version of the page. Some interactive features are only available in the full version.
本頁為精簡版,部分互動功能僅限完整版使用。
👉 View Full Version | 前往完整版內容