論文如何區分「軟胡說」和「硬胡說」，並將ChatGPT歸類為哪一種？

論文如何區分「軟胡說」和「硬胡說」？

該論文基於哲學家哈里·法蘭克福的「胡說」概念，將其區分為兩種：「軟胡說」（soft bullshit）和「硬胡說」（hard bullshit）。「軟胡說」指的是對真相漠不關心，只是為了說話而說話，不考慮內容是否真實。這種類型的胡說，動機並非欺騙，而是純粹不在乎真假。「硬胡說」則更進一步，不僅不在乎真相，還積極地試圖欺騙聽眾，偽裝成真理的講述者。這種胡說帶有欺騙意圖，旨在誤導他人。

ChatGPT被歸類為哪一種胡說？

根據該論文作者的觀點，ChatGPT 至少屬於「軟胡說」的範疇。這是因為 ChatGPT 的設計目標並非追求真理，而是根據大量數據生成看似合理的文本，其運作機制本身就對內容的真實性漠不關心。雖然 ChatGPT 的輸出可能包含錯誤資訊，但其本質並非有意欺騙，而是源於其對真相的冷漠。作者認為，將 ChatGPT 歸類為「軟胡說」更準確地反映了其核心功能和局限性，避免了「AI幻覺」一詞可能帶來的誤導。

為何避免使用「AI幻覺」？

論文強調，「AI幻覺」一詞具有誤導性，因為它暗示 AI 系統試圖陳述事實，但由於技術限制而失敗。這種說法掩蓋了大型語言模型的真正運作機制：生成看似可信的文本，而非傳達真相。將 AI 產生的錯誤資訊稱為「幻覺」，可能會誤導公眾、政策制定者，甚至開發者，讓他們誤以為 AI 的目標是追求真理，從而導致錯誤的技術解決方案和社會認知。因此，論文作者提倡使用更精確的「胡說」概念，以更準確地理解和應對 AI 系統的局限性和風險。