「AI幻覺」一詞為何被認為具有誤導性，其潛在風險是什麼？

「AI 幻覺」一詞的誤導性

「AI 幻覺」一詞被認為具有誤導性，因為它暗示大型語言模型（LLM）如 ChatGPT 試圖陳述事實卻失敗，掩蓋了其核心運作機制是「生成看似可信的文本」而非「傳達真相」。這個詞彙源自人類心理學，暗示 AI 具有感知或陳述真實世界的能力，但實際上，LLM 的設計目標並非驗證事實，而是根據數據生成最可能符合語境的文本，這使得系統本身對產出內容的真實性漠不關心。

「胡說」的哲學定義

英國學者提出，LLM 產生的錯誤資訊更應被視為哲學意義上的「胡說」。根據哲學家哈里·法蘭克福的定義，「胡說」是指一種完全不在乎真假的言談。研究將「胡說」分為兩種：「軟胡說」僅對真相冷漠，而「硬胡說」則意圖欺騙聽眾。學者認為 ChatGPT 至少屬於前者，因為其設計本質上並非為了傳達真相，而是為了生成看似合理的文本。

潛在風險

使用「AI 幻覺」一詞可能引導錯誤的技術解決方案與公眾認知。這種誤解會讓公眾、政策制定者甚至開發者誤以為 AI 的目標是追求真理，只是偶爾會「看錯」或「記錯」。這種錯誤的理解可能導致開發者將精力放在修正 AI 的「認知偏差」，而不是從根本上認識到 LLM 的設計目標並非追求真實。更準確的描述這些系統的能力與意圖，有助於避免對 AI 技術的過度信任，並促進更負責任的開發和使用。