Andrej Karpathy 提出「Vibe Coding」能力被高估，具體體現在哪些層面？

Andrej Karpathy 對「Vibe Coding」能力高估的具體層面分析

Andrej Karpathy 近期在一場 Podcast 訪談中針對 AI 產業瀰漫的樂觀情緒提出質疑，特別點出「Vibe Coding」能力被過度高估的現象。他認為，業界普遍對 AI 代理人的能力抱有不切實際的期望，而這種過度樂觀很大程度上是為了融資。Karpathy 認為，若要編寫實際的生產級程式碼，程式碼的可靠性至關重要，但現階段的 AI 技術仍有許多不足之處。

Karpathy 提出的主要觀點

1. 對 AI 代理人能力的過度預期：Karpathy 認為，業界對 AI 能夠迅速自動化 AI 工程與研究的預測，是基於對 Vibe Coding 能力的過度高估。
2. 原創性任務的局限性：在建構如 nanochat 這樣高度原創的專案時，Karpathy 發現 AI 代理人的幫助非常有限。AI 傾向於遵循網路上最常見的模式，難以理解專案中的獨特架構與假設。
3. 強化學習的不足：Karpathy 認為現行的強化學習方法存在缺陷，效率低落，且容易盲目增強整個路徑，而忽略了對錯誤步驟的分析。
4. 知識與認知核心的分離：Karpathy 提出，AI 的目標應是保留純粹、可用於解題的「認知核心」，而不是依賴從網路學到的龐大知識庫。
5. 模型崩潰的風險：Karpathy 警告，使用 AI 生成的合成數據來訓練下一代模型可能導致模型崩潰，使模型越來越同質化，最終導致能力衰退。

Vibe Coding 的實際應用限制

Karpathy 認為，雖然 Vibe Coding 在生成報告或使用不熟悉的語言等特定任務中是有用的工具，但整體而言，業界對其取代複雜、智慧密集型程式設計的能力是被高估的。他強調，在高度原創、智力密集的任務中，AI 的最佳定位是「自動完成」，而非「專案代理人」，而人類架構師的角色仍然重要。