Geoffrey Hinton 對 AI 安全的主要擔憂是什麼？

Geoffrey Hinton 對 AI 安全的主要擔憂

被譽為「AI 教父」的 Geoffrey Hinton 近期在 Ai4 2025 大會上再次強調了他對人工智慧安全的擔憂。Hinton 認為，隨著通用人工智慧（AGI）時代的快速逼近，人類試圖控制 AI 的想法是不切實際的。他主張人類應該將 AI 塑造成真正「關心人類」的存在，而不僅僅是助手。

「AI 母親」的概念

Hinton 提出了一個大膽的構想，即未來人類可能需要一個「AI 母親」。他解釋說，母親天生具有本能、激素以及社會壓力，促使她們真心關愛自己的孩子。Hinton 認為，未來可以嘗試將這種「母性本能」植入 AI，使其能以同樣的方式照顧人類。他認為，這是避免 AI 失控的唯一安全方式。雖然目前還沒有具體方法實現「AI 母親」，但 Hinton 認為研究重點應該放在如何讓 AI 具備母性特質，而非單純提高智慧。

專家觀點分歧

Hinton 的觀點引起了廣泛討論，但並非所有專家都認同。被譽為「AI 教母」的李飛飛就持反對意見，她認為人類應打造「以人為本的人工智慧，維護人類尊嚴與自主權」，並強調 AI 作為工具的強大。OpenAI 前臨時 CEO 及 Twitch 聯合創始人 Emmett Shear 則贊同 Hinton 的觀點，認為與其強行將人類價值觀灌輸給 AI，不如建立 AI 與人類的合作關係，讓 AI 真正關心人類並具備自我意識。