勤業眾信 (Deloitte) 在澳洲的AI報告中出現哪些「AI幻覺」的具體錯誤？

勤業眾信澳洲AI報告中的具體「AI幻覺」錯誤

勤業眾信（Deloitte）澳洲分公司在為澳洲就業與工作場所關係部門（DEWR）製作的福利津貼支付審查報告中，出現了多項由AI產生的錯誤，這些錯誤被認為是「AI幻覺」的具體表現：

1. 捏造的聯邦法院判決引文： 報告中包含名為「Amato 控訴聯邦政府」的虛假案件，這是一個不存在的案件。

2. 引用不存在的學術研究論文： 報告中引用了多篇實際上並不存在的學術研究論文，這些引用的參考資料均為捏造。

3. 錯誤引用的聯邦法官言論： 報告中錯誤引用了10多個聯邦法官的言論，這些言論實際上並非由相關法官所說。

事件後續處理

面對這些錯誤，勤業眾信澳洲分公司承認「部分註腳和參考資料不正確」，並發布了修訂版本，移除了所有錯誤引用的內容。同時，他們也坦承使用了生成式AI語言模型 Azure OpenAI GPT-4o 協助撰寫報告。作為補償，勤業眾信同意將之前收取的440,000澳元報告費用進行部分退還。

AI幻覺帶來的警示

此事件凸顯了AI技術在提高效率的同時，也存在產生不準確內容的風險，即所謂的「AI幻覺」。儘管AI工具可以輔助撰寫報告，但人工查核的必要性仍然極高，以避免對信譽造成嚴重損害。此案例與其他類似事件，如美國律師使用ChatGPT杜撰法律判例，以及Anthropic律師使用自家AI生成虛假引用資訊，共同提醒業界在擁抱AI轉型時，必須謹慎應對AI技術不成熟帶來的挑戰。