大型語言模型追求可信文本而非真相的設計目標對其應用場景有何限制？

大型語言模型以可信性為目標的限制

大型語言模型（LLM），例如 ChatGPT，其設計目標並非追求真相，而是生成看似可信的文本。這種設計導致 LLM 容易產生錯誤資訊，被學者稱為哲學意義上的「胡說」，而非單純的「AI 幻覺」。因為 LLM 的核心運作機制並不在乎真相，而是依據大量數據生成最符合語境的內容。

「AI 幻覺」一詞的誤導

目前業界和媒體常用的「AI 幻覺」容易產生誤導，彷彿模型有意陳述事實卻失敗。這種說法掩蓋了 LLM 的本質：生成看似可信的文本，而非傳達真相。這種誤解可能導致錯誤的技術解決方案和公眾認知，讓人們誤以為 AI 的目標是追求真理，只是偶爾出錯。

「胡說」的分類與 LLM 定位

學者將「胡說」分為「軟胡說」和「硬胡說」。「軟胡說」僅對真相冷漠，而「硬胡說」則意圖欺騙聽眾，偽裝成真理講述者。目前 ChatGPT 屬於前者，也就是對真相漠不關心，但並非有意欺騙。這種區分有助於更精確地理解 LLM 的行為本質，並了解其在應用上的限制。例如，在需要高度準確性的醫療或法律領域，LLM 的使用必須格外謹慎。