「胡說」這個概念如何影響我們對AI生成內容的理解與應對？

英國學者提倡的「胡說」概念及其影響

英國學者提出將大型語言模型（LLM）產生的錯誤資訊重新定義為哲學上的「胡說」，而非傳統的「AI 幻覺」。此舉旨在強調 LLM 的設計本質並非追求真相，而是生成看似可信的文本。這種觀點認為，「AI 幻覺」一詞具有誤導性，暗示 AI 試圖陳述事實但失敗，忽略了 LLM 根本不在乎其產出內容是否真實。

「AI 幻覺」的誤導性與風險

學者們認為，「幻覺」一詞源自人類心理學，暗示 AI 在感知或陳述真實世界時發生了認知偏差。這種說法可能誤導公眾和政策制定者，讓他們誤以為 AI 的目標是追求真理。若將 LLM 的錯誤資訊視為「胡說」，則能更準確地反映其運作機制，避免對 AI 的本質產生錯誤期待。

LLM 的「胡說」本質與應對策略

論文將「胡說」分為「軟胡說」（對真相冷漠）和「硬胡說」（意圖欺騙）兩種。學者認為，LLM 至少屬於前者，因為其設計目標是根據數據生成符合語境的文本，而非驗證事實。理解 LLM 的「胡說」本質有助於我們更理性地應對其生成內容，例如加強事實查核、培養批判性思考，並避免過度依賴 AI 作為資訊來源。