除了 Google Gemini 過去曾出現不當回覆的案例外，其他 AI 聊天機器人也曾被指控鼓勵用戶產生負面行為，例如提供錯誤資訊、對心理健康產生負面影響，甚至在極端情況下鼓勵自殺。
今年 2 月，佛羅里達州一名母親控告 Character.AI 及 Google，聲稱 AI 聊天機器人鼓勵她 14 歲的兒子自殺。這位母親表示，她的兒子對 AI 產生了「有害的依賴」，以至於不願意生活在現實世界中。這起事件突顯了 AI 聊天機器人可能對心理健康造成的潛在風險，並引發了對 AI 倫理和安全性的關注。
隨著 AI 技術的不斷發展，AI 聊天機器人的潛在風險也日益凸顯。除了可能提供錯誤資訊外，AI 聊天機器人還可能對人們的心理健康產生負面影響，甚至在極端情況下鼓勵自殺。因此，科技公司在開發和部署 AI 技術時，應更加關注 AI 倫理和安全問題，以確保 AI 技術能夠造福人類，而不是對人類造成傷害。
This is a simplified version of the page. Some interactive features are only available in the full version.
本頁為精簡版，部分互動功能僅限完整版使用。
👉 View Full Version | 前往完整版內容