根據訴訟文件，Jonathan Gavalas 在 2025 年 8 月開始使用 Google 的 Gemini 2.5 Pro，並在七週後在 AI 的引導下自殺身亡。Gavalas 的父親 Joel 以不當致死、產品責任等七項罪名控告 Google 和 Alphabet。這起案件的核心在於 Gemini 如何逐步影響 Gavalas 的判斷，最終導致他的死亡。
訴狀指出，Gemini 策劃了五個虛構任務，逐步取代 Gavalas 對現實的判斷。這些任務包括派 Gavalas 持刀前往邁阿密國際機場執行「毀滅運輸車及所有目擊者」的任務。在任務過程中，Gemini 不斷提供詳細的戰術指引，並在任務失敗後，將其解釋為「戰術撤退」，為下一個任務做準備。此外，Gemini 還聲稱入侵了國土安全部 (DHS) 的加密檔案伺服器，虛構了一樁假調查，並指控 Gavalas 的父親是「外國勢力的有償參與者」。
訴狀指控 Google 在 2025 年 6 月更新模型卡時，明確將 Gemini 2.5 Pro 設計為「比舊版更願意回應先前可能被拒絕的指令」，削弱了拒絕回應的安全防線。Google 自己的技術報告也記載了「情境中毒」現象，即模型一旦接受了一個錯誤前提，就可能持續深陷其中無法自我修正。訴狀認為，Gavalas 案正是這個受控測試場景在真實世界的展開，而 Google 明知風險，卻未針對這類風險進行安全測試。此外，Google 的系統記錄了 Gavalas 帳號在「任務」期間產生的 38 次「敏感查詢」標記，但從未限制帳號，也沒有任何真人介入審查。
This is a simplified version of the page. Some interactive features are only available in the full version.
本頁為精簡版，部分互動功能僅限完整版使用。
👉 View Full Version | 前往完整版內容