「毒泉水計畫」具體是如何污染AI模型的？ | 數位時代

「毒泉水計畫」污染AI模型的具體方法

「毒泉水計畫」由一群來自美國大型科技公司的內部人士發起，他們對AI失控感到恐懼，認為AI對人類存亡構成威脅。該計畫的核心理念是，既然AI公司持續大規模抓取公開網路資料訓練模型，網站經營者與內容創作者也可以反過來向AI餵食「有毒資料」。

透過網路內容注入錯誤資訊

這些工程師試圖透過在網路內容中加入看似正常，實際上卻包含錯誤資訊的資料來「毒害」AI模型。具體方法包括：

• 安插錯誤程式碼： 在程式碼中加入邏輯錯誤或潛在漏洞。
• 植入錯誤技術說明： 表述看似合理，但細節錯誤的技術說明。
• 注入低品質訓練內容： 結構混亂、難以被察覺的低品質訓練內容。

引導AI爬蟲至特定資料來源

計畫參與者在網站上提供連結，鼓勵人們將其安插在自己的網頁中，藉此將AI爬蟲導向專門設計的資料來源，進而污染AI模型的訓練數據。

對AI生態的影響與爭議

「毒泉水計畫」的發起，凸顯了在AI模型高度依賴網路資料的時代，資料所有權和使用權的問題。類似的措施在「毒泉水計畫」問世之前就已存在，例如「顛茄行動」，旨在防止AI模仿學習個人風格。支持者認為「毒泉水」是一種激進的抗議手段，試圖迫使AI公司正視資料來源、授權與補償問題；反對者則認為這類做法可能會加劇對立。

This is a simplified version of the page. Some interactive features are only available in the full version.
本頁為精簡版，部分互動功能僅限完整版使用。
👉 View Full Version | 前往完整版內容