工程師如何具體實施「毒泉水計畫」來污染AI模型？ | 數位時代

工程師如何執行「毒泉水計畫」污染AI模型

一群自稱來自大型科技公司的工程師發起了「毒泉水計畫」，旨在透過從源頭污染AI模型的訓練材料來對抗AI。他們認為AI對人類構成威脅，並相信立法和監管無法跟上AI發展的速度，因此試圖用技術手段「毒害」AI模型。

具體實施方法

工程師們計畫透過以下方式污染AI模型：

• 植入惡意連結： 他們鼓勵網站經營者和內容創作者將網站上提供的連結嵌入自己的網頁中，將AI爬蟲引導至特製的資料來源。
• 餵食有毒資料： 這些資料表面上看起來正常，但實際上包含錯誤資訊，例如含有邏輯錯誤的程式碼、細節錯誤的技術說明，以及結構混亂的低品質訓練內容。
• 關鍵字與亂碼： 參考Anthropic的研究，他們計畫在網站內容中加入特定的關鍵字和亂碼，使模型學習到看到這些關鍵字就生成亂碼，進而影響模型的準確性和穩定性。

影響與目的

透過將這些被污染的資料混入訓練資料，工程師們希望影響模型的準確性和穩定性，增加AI開發商修正模型的成本和難度。他們認為，這種「下毒攻擊」可以破壞模型的認知完整性，並在AI技術發展失控前，用「毒藥」埋葬AI技術。

This is a simplified version of the page. Some interactive features are only available in the full version.
本頁為精簡版，部分互動功能僅限完整版使用。
👉 View Full Version | 前往完整版內容