勤業眾信澳洲分公司的報告為何會出現AI幻覺的錯誤資訊？

勤業眾信澳洲分公司報告出現AI幻覺的原因

勤業眾信澳洲分公司（Deloitte Australia）受澳洲就業與工作場所關係部門（DEWR）委託，製作一份關於澳洲福利津貼支付的審查報告。然而，這份報告被發現存在多項由AI「幻覺」產生的錯誤資訊，包括捏造聯邦法院判決引文和不存在的學術研究論文。這些錯誤主要源於使用了生成式AI語言模型 Azure OpenAI GPT-4o 輔助撰寫報告，但未進行充分的人工查核，導致AI產生的虛假資訊被直接納入報告中。

AI幻覺導致的具體錯誤

具體而言，報告中出現了名為「Amato 控訴聯邦政府」的虛假案件，以及其他十多個被錯誤引用的聯邦法官言論和不存在的報告參考資料。雪梨大學健康與福利法研究員發現這些問題後，Deloitte承認「部分註腳和參考資料不正確」，並發布了修訂版本，移除了這些錯誤引用。儘管Deloitte強調報告的實質內容與整體建議未受影響，但這些錯誤已嚴重損害其信譽。

應對與反思

面對錯誤曝光，Deloitte澳洲分公司同意部分退還440,000澳元（約新台幣875萬元）的報告費用。同時，Deloitte宣布與AI公司Anthropic達成企業級合作協議，顯示其持續擁抱AI轉型的決心。然而，這一事件也凸顯了AI技術在應用中存在的不成熟挑戰，以及人工查核的重要性。其他案例，如美國律師在航空訴訟中因使用ChatGPT引用虛假法律判例，和Anthropic自家AI律師在法律糾紛中使用虛假資訊，都表明AI幻覺可能對信譽造成嚴重損害。