Andrej Karpathy 提出的「軟體3.0」核心是什麼？

Andrej Karpathy 的「軟體 3.0」核心概念

Andrej Karpathy 提出的「軟體 3.0」核心概念是基於大型語言模型 (LLM) 的開發模式轉變。與傳統的「軟體 1.0」 (手動編寫程式碼) 和「軟體 2.0」 (基於資料訓練神經網路) 不同，「軟體 3.0」強調透過自然語言與模型互動，以提示 (prompt) 作為新的程式語言，自然語言作為新的介面。這種開發模式被稱為 Vibe Coding，意指透過語言將想法傳達給模型，並透過反覆修正與對話來獲得最終結果。

從軟體 1.0 到軟體 3.0 的演進

Karpathy 將軟體開發的演進分為三個階段：

• 軟體 1.0: 傳統的程式碼編寫方式，工程師一行一行地撰寫程式碼來定義系統的邏輯和行為。這種方式的優點是精確和可控，缺點是隨著系統規模的增長，維護和擴展變得困難。
• 軟體 2.0: 深度學習的興起，通過收集資料、設計模型，讓神經網路自動學習規則。這種方式的優點是可以處理複雜的問題，缺點是需要大量的標註資料，並且模型的行為難以完全解釋。
• 軟體 3.0: 基於大型語言模型的開發模式，開發者不再需要手動編寫程式碼或準備大量訓練資料，而是透過自然語言與模型互動，利用提示來引導模型生成所需的結果。

人類監督的重要性

儘管 Vibe Coding 可以快速產生展示性的成果，Karpathy 提醒，要建構真正的產品，必須確保模型在所有情境下都能正常運作。這意味著需要新的測試流程、更嚴格的驗證方式，以及清楚的人類監督。需要設計不同層級的自動化與自主性，以確保系統的可靠性和安全性。