作者首次在個人電腦上部署大型語言模型的動機是什麼？

作者在個人電腦上首次部署大型語言模型的動機

作者最初在個人電腦上部署大型語言模型是因為受到其夥伴介紹的 Bolt 服務的啟發。Bolt 是一個可以自架在電腦上的服務，這使得作者無需購買訂閱的 coding 服務。透過在自己的 32GB RAM 的 Mac Mini 上自架 open source 的大型語言模型服務以及 Bolt 寫程式的服務，作者親身體驗了大型語言模型 (LLM) 的威力，並開始思考如果這些工具能更快地運行，世界會發生怎樣的改變。

部署過程及體驗

儘管在 Mac Mini 上自架的服務運行速度較慢，作者仍然能夠使用自然語言編寫網站。這種親身體驗促使他深入研究如何更有效地利用 AI 工具。由於自架 Vibe Coding 工具速度太慢，作者轉而使用 Cursor 進行開發。透過 Cursor，作者在幾天內完成了第一個應用，並部署到 Cloudflare 上。

AI First 的啟示

作者透過使用 Cursor 開發多個遊戲，如單字挑戰、AI Or NOT、2048 等，並非因為自身技術高超，而是得益於 Cursor 的強大功能。Cursor 能夠分析問題、流程、部署，並提交到 Github。這一系列實作經驗讓作者深刻體會到 AI First 的重要性，並促使他更積極地探索和應用 AI 技術。