「毒泉水計畫」是一項由一群科技業內部人士發起的行動，旨在透過污染AI模型的訓練資料來對抗AI的快速發展。這些工程師們認同AI教父Geoffrey Hinton的觀點，認為AI可能對人類構成威脅，因此試圖從技術層面抵抗AI。Hinton曾多次表達對AI潛在危險的擔憂，認為AI在未來可能超越人類智能，並最終導致人類失去控制權。
Hinton主張各國政府應加強對AI安全的監管，並建立國際條約來限制自動武器和危險模型的研發。「毒泉水計畫」的發起者們認為，立法和監管的速度遠遠跟不上AI的發展，因此他們希望透過向AI餵食「有毒資料」來減緩甚至阻止AI的發展。他們相信，這種「下毒攻擊」可以破壞AI模型的認知完整性，從而達到抵抗AI的目的。
「毒泉水計畫」的參與者們透過在網頁中嵌入特定連結，將AI爬蟲引導至包含錯誤資訊的資料來源。這些資料看似正常，實際上卻包含邏輯錯誤、潛在漏洞的程式碼，或結構混亂的低品質訓練內容。透過將這些被污染的資料混入AI模型的訓練資料中，他們希望能夠影響模型的準確性和穩定性，增加AI開發商修正模型的成本和難度。此舉與藝術界發起的顛茄行動（Nightshade）類似，後者旨在透過在圖像中加入人眼難以察覺的元素，讓AI誤判，從而保護藝術家的作品不被AI剽竊。
This is a simplified version of the page. Some interactive features are only available in the full version.
本頁為精簡版，部分互動功能僅限完整版使用。
👉 View Full Version | 前往完整版內容