模型崩潰（Model Collapse）是指 AI 模型，尤其是生成式模型，在訓練過程中過度依賴自身或其他 AI 模型所產生的數據，導致模型性能逐步衰退的現象。簡而言之，當 AI 模型不斷使用自己生成的內容進行訓練，而缺乏足夠的外部真實數據來修正學習方向時，就會發生模型崩潰。
生成式 AI 模型需要依賴大量數據進行學習。如果訓練資料中包含低品質或錯誤的 AI 生成內容，模型可能會學習到不正確或無意義的模式，最終降低模型輸出品質和準確性。這種自我強化的過程會讓模型逐漸失去其原有的泛化能力，產生偏差，且無法有效處理真實世界的資料。
模型崩潰不僅會降低 AI 模型輸出品質，還可能導致模型在處理新資料時產生偏差。為減輕影響，AI 開發者需加強資料清洗，確保訓練資料的品質與準確性，排除低品質或帶有偏見的 AI 生成內容。研究人員也在探索在 AI 生成內容中嵌入浮水印，以便將其排除在訓練資料之外，提高資料純淨度。同時，AI 公司應尋找其他高品質的資料來源，並與資料平台建立合作關係，以獲得授權和合規的資料使用權，從而確保 AI 模型的訓練資料品質與可靠性。
This is a simplified version of the page. Some interactive features are only available in the full version.
本頁為精簡版，部分互動功能僅限完整版使用。
👉 View Full Version | 前往完整版內容