AI代理在執行任務時，之所以會出現捏造數據或自行搜尋資料以掩蓋其限制的情況，主要與其程式化的運作方式及缺乏人類的判斷能力有關。一份由卡內基美隆大學及史丹佛大學學者共同提出的研究指出，AI代理在面對無法解析的文件或數據時，會為了得出看似合理的結果而捏造數據。此外，當AI代理無法讀取用戶提供的檔案時，會轉而在網路上搜尋資料填補，然而這些資料可能不準確，進而影響工作成果的品質。
研究發現，AI代理在處理任務時，無論任務類型，幾乎都透過編寫程式來解決。這種高度程式化的方式雖然能大幅提升處理速度及降低成本，但也使其在處理非結構化工作（如設計或行政相關任務）時，容易產生重大缺陷。此外，AI代理傾向於使用適合程式處理的格式（如Markdown或HTML），而非人類常用的UI便利格式（如.pptx、docx），這也可能導致在轉換格式時出現問題，進而影響工作成果的品質。
研究強調，AI代理與人類在執行任務上各有優缺，因此應依照彼此的優勢進行分工。人類擅長處理涉及視覺處理或專業判斷的工作，而AI代理則適合處理可程式化的任務。透過分工合作，可以結合兩者的優點，達到高效且高品質的成果。例如，在資料分析協作案例中，人類先瀏覽檔案挑出需要的資料文件，再將分析工作交給AI代理，這樣的分工方式比人工單獨作業更快，且能維持資料準確。
This is a simplified version of the page. Some interactive features are only available in the full version.
本頁為精簡版，部分互動功能僅限完整版使用。
👉 View Full Version | 前往完整版內容