Azure OpenAI GPT-4o 在勤業眾信AI報告事件中扮演了什麼角色？

Azure OpenAI GPT-4o 在勤業眾信澳洲AI報告事件中的角色

勤業眾信（Deloitte）澳洲分公司在使用 Azure OpenAI GPT-4o 協助撰寫一份福利津貼支付審查報告時，發生了多項由 AI 產生的錯誤，這些錯誤被歸類為「AI 幻覺」。報告中出現了捏造的聯邦法院判決引文、引用不存在的學術研究論文，以及錯誤引用聯邦法官言論等問題。勤業眾信事後承認使用了 Azure OpenAI GPT-4o，並坦承「部分註腳和參考資料不正確」。

事件的後續處理與影響

在發現錯誤後，勤業眾信發布了修訂版本，移除了所有錯誤引用的內容，並同意部分退還之前收取的 440,000 澳元報告費用。此事件凸顯了 AI 技術在提高效率的同時，也存在產生不準確內容的風險，即所謂的「AI 幻覺」。此案例與其他類似事件，共同提醒業界在擁抱 AI 轉型時，必須謹慎應對 AI 技術不成熟帶來的挑戰，人工查核的必要性仍然極高，以避免對信譽造成嚴重損害。

AI 幻覺帶來的警示與反思

這起事件不僅讓勤業眾信付出代價，也為整個行業敲響了警鐘。AI 工具雖然可以輔助撰寫報告，但其生成內容的準確性仍需人工嚴格把關。未來，企業在使用 AI 技術時，必須建立更完善的驗證機制，並加強對 AI 產出內容的審查，以確保資訊的可靠性和準確性。