AI 發展的核心目標應為學習演算法與策略，為何過度依賴知識會限制其潛力？

AI 發展應著重學習演算法與策略之原因

Andrej Karpathy 指出，目前 AI 產業普遍存在過度樂觀的情緒，許多看似突破性的進展距離實際應用仍有遙遠的距離。他認為 AI 發展的核心目標應為學習解決問題的演算法和策略，而非單純記憶知識，過度依賴知識會限制 AI 的泛化能力和創造力。

過度依賴知識的限制

Karpathy 將 AI 的發展比喻為「召喚幽靈」，強調 AI 的智慧是一種模仿，源於對網路上龐大的人類數據的學習，而非像動物一樣透過物理演化獲得。若 AI 過度依賴已知的知識，將難以應對未知的問題和環境，因為其解決問題的能力受限於已知的知識範圍。強化學習的局限性也體現了這一點，現行的強化學習方法效率低下，類似於「透過吸管吸取監督訊號」，無法像人類一樣進行反思和分析，難以創造出新的解決方案。

學習演算法與策略的重要性

學習演算法與策略能使 AI 具備更強的泛化能力和創造力。透過學習演算法，AI 可以理解解決問題的通用方法，從而應用於不同的情境。學習策略則能讓 AI 根據不同的情況，選擇最優的解決方案。這種學習方式能使 AI 不僅僅是知識的儲存器，更是具有解決問題能力的智慧體。「九」的艱辛行軍也說明了，從 AI 的展示到可靠的產品之間存在巨大鴻溝，需要不斷提升系統的可靠性，這需要 AI 學習並掌握更有效的演算法和策略。