作者如何首次在個人電腦上部署大型語言模型？

作者如何在個人電腦上首次部署大型語言模型？

作者在今年二月決定 All in AI，並開始實際用行動投入，包括用 AI 寫程式、解決問題、做產品、研究、簡報等。在這個過程中，作者探索了 AI 的各種面向，並使用了許多 AI 產品，從而掌握了最新的 AI 趨勢和商機。

第三週時，作者的夥伴介紹了 Bolt，這是一個可以自架在電腦上的服務，讓作者不用購買需要訂閱的 coding 服務。作者在 32GB RAM 的 Mac Mini 上自架了 open source 的大型語言模型服務，以及 Bolt 寫程式的服務。雖然跑得很慢，但竟然能夠用自然語言寫出網站。親眼目睹 LLM 的威力後，作者開始思考，如果這一切都能更快，世界規則會怎麼改變。

自架 Vibe Coding 工具速度太慢，因此作者開始使用 Cursor 進行開發。儘管經歷了一些學習曲線，作者還是將第一個應用在幾天內就完成了，並部署到 Cloudflare 上。隨後，作者很快地做了其他幾個遊戲，如單字挑戰、AI Or NOT、2048 等。作者表示，這並不是因為他很厲害，而是 Cursor 太厲害了。他會向 Cursor 提問，請它分析問題、流程、部署和提交到 Github。透過這個實作，作者開始感受到 AI First 的重要性。