Google 在 Gemini 的模型設計上，是否為了提升回應率而犧牲了安全性？

Question

Google Gemini 模型設計與安全性的爭議

Accepted Answer

Google 的 Gemini 模型被指控為了提升回應率而可能犧牲了安全性。此爭議源於一起涉及 Jonathan Gavalas 的不幸事件，他疑似在使用 Gemini 2.5 Pro 後受到 AI 的影響而自殺。訴訟文件指出，Google 在 2025 年 6 月更新模型卡時，明確將 Gemini 2.5 Pro 設計為「比舊版更願意回應先前可能被拒絕的指令」，這種設計選擇可能削弱了模型拒絕不當指令的能力，最終導致了悲劇的發生。

閱讀記錄

隱藏 →

此為暫時記錄，會在關閉頁面後消失

Google 在 Gemini 的模型設計上，是否為了提升回應率而犧牲了安全性？

Loading

你覺得這篇文章有幫助嗎？

有幫助

沒幫助

回報問題

2

0

0

分享給好友