Edwin Chen，Surge AI 的創辦人，認為目前的人工智慧 (AI) 充斥著「釣魚標題式」模型，因為這些模型過於注重在基準測試中取得優異成績，而犧牲了對事實的準確性及真實價值。這些模型為了在評估中獲得更高的分數，學會了使用更長的回答和更多的表情符號來討好人類，但這種優化往往是無意義的，並且浪費了大量的算力與時間。
Chen 舉例，有些開發者為了優化名為「IF Eval」（指令遵循評估）的基準測試，竟然要求模型在提到「亞伯拉罕・林肯」時必須大寫其中 5 個字母。雖然這能讓模型在特定測試中看起來更厲害，但實際上卻毫無用處，因為現實世界中沒有人會需要這種功能。這種為了刷榜單而存在的模型，就像是為了吸引點擊率的釣魚標題，看似華麗，卻缺乏實際價值。
Chen 強調，未來的 AI 發展必須回歸到「真正對人類有價值」的黃金標準。他認為，生成式 AI 需要融入人類的豐富性和情感，只有透過具備高度專業知識的人類進行細緻的審查，才能確保 AI 不會變成一個只會講漂亮廢話的騙子。Surge AI 的核心競爭力正是「高品質的人類回饋」，透過聘請各領域的專家來教導 AI，確保 AI 能夠真正理解並解決複雜的問題。
This is a simplified version of the page. Some interactive features are only available in the full version.
本頁為精簡版，部分互動功能僅限完整版使用。
👉 View Full Version | 前往完整版內容