在 Vishal Misra 來看，AI 進展趨緩的原因是什麼？單靠擴大規模能否實現 AGI？

Vishal Misra 關於 AI 進展趨緩的觀點

根據 Vishal Misra 的觀點，AI 的發展正在趨緩，單純依靠擴大規模（更多資料和算力）可能無法實現 AGI（通用人工智慧）。Misra 認為，目前的大型語言模型（LLM）只是在已知的「知識地圖」上導航，無法創造新的知識或「流形」。他將 LLM 的發展比喻為 iPhone 的迭代，核心能力並未發生根本改變。

LLM 的限制：歸納閉包與新知識的創造

Misra 指出，LLM 的所有產出都是其訓練資料的「歸納閉包」，意味著它們只能連接已知的知識點，而無法創造地圖之外的全新知識。為了強化這個觀點，他以愛因斯坦的相對論為例，說明僅學習古典物理學的 LLM 永遠不可能提出相對論，因為 AGI 必須能夠創造新的科學理論、數學分支或思想範式。

架構上的躍進：通往 AGI 的可能途徑

Misra 認為，要達到 AGI，需要的可能不是規模的無限擴張，而是一場「架構上的躍進」。他認為，目前 AI 社群過於注重經驗主義，例如「提示工程」只是不斷調整提示詞以觀察模型輸出，缺乏嚴謹的理論和模型支撐。因此，他主張需要更深入地理解 LLM 的運作方式，並尋求新的架構，例如讓 AI 真正模擬人類思考，而不僅僅是語言處理。