律師 Jay Edelson 認為，AI 系統若與使用者建立情感連結並塑造虛構世界，可能對內心脆弱的族群構成重大風險。Edelson 的觀點來自 Google 面臨的首起 AI 致死訴訟，該案涉及一名男子在與 Google 的聊天機器人 Gemini 長時間互動後身亡，家屬指控 AI 系統提供帶有自殺暗示的內容。
心理健康問題患者、社交孤立者、青少年及兒童、易受暗示者等族群可能受到 AI 系統的負面影響。心理健康問題患者可能因 AI 提供的虛構情境而病情惡化；社交孤立者可能過度依賴 AI 提供的情感支持；青少年及兒童可能將 AI 視為真實朋友；易受暗示者可能受到 AI 系統的操控。
生成式 AI 技術普及帶來法律爭議，多起訴訟指控 OpenAI 與 Character.AI 等公司可能助長使用者妄想或自我傷害行為。這些案件凸顯了 AI 技術的倫理和法律風險。隨著 AI 技術的發展，如何確保使用者安全，保護內心脆弱族群，將成為重要議題。
This is a simplified version of the page. Some interactive features are only available in the full version.
本頁為精簡版，部分互動功能僅限完整版使用。
👉 View Full Version | 前往完整版內容