此事件暴露了AI技術在提高效率的同時，哪些具體的風險？

勤業眾信澳洲AI報告事件揭示的風險

勤業眾信澳洲分公司使用 Azure OpenAI GPT-4o 撰寫福利津貼支付審查報告時，發生了嚴重的「AI幻覺」問題，具體風險如下：

• 捏造資訊： AI 生成了聯邦法院判決的虛假引文，以及不存在的學術研究論文，顯示AI可能產生不實資訊，誤導使用者。
• 錯誤引用： AI 錯誤引用聯邦法官的言論，突顯AI在理解和轉述複雜資訊時可能出錯，導致內容失真。
• 資訊驗證不足： 報告中出現多項錯誤，顯示在仰賴AI技術的同時，缺乏足夠的人工查核機制，無法及時發現並糾正錯誤。

事件的影響與警示

勤業眾信事後承認錯誤並進行修正，但此事件已對其聲譽造成負面影響。此外，公司還需退還部分報告費用，顯示AI錯誤可能導致的經濟損失。此事件警示企業，在追求效率的同時，必須意識到AI技術的不成熟性，以及隨之而來的風險。

提升AI應用安全性的必要性

此事件凸顯了在AI轉型過程中，建立完善的驗證機制的重要性。企業在使用AI技術時，應加強對AI產出內容的審查，確保資訊的可靠性和準確性，避免因AI幻覺而造成的潛在風險。未來，AI技術的應用需要更加謹慎，並結合人工智慧與人工智慧雙重驗證，才能真正提升效率並降低風險。