Anthropic 指出，有中國政府支持的駭客利用 Claude AI 完成了高達 80%–90% 的網路攻擊自動化。這些駭客在 9 月針對多家大型企業與外國政府發起了攻擊，他們將傳統的多步驟滲透流程「模組化」並高度自動化。攻擊者甚至以「受雇進行安全稽核」為名，試圖誘導模型繞過安全防護。儘管 Anthropic 最終偵測並封鎖了帳號，但在此之前已發生至少四起成功入侵，其中一次是 AI 自行查詢內部資料庫並擷取資料。
除了中國之外，Google 也通報了與俄羅斯有關聯的駭客使用 AI 即時生成惡意程式指令。此外，安全公司 Volexity 指出，中國駭客已經開始使用大型語言模型（LLM）來優化目標選擇、釣魚信件和惡意程式的撰寫。這些案例顯示，AI 正在被越來越多的國家和組織利用於網路攻擊，使其能夠以更大的規模和速度執行複雜的攻擊。
面對 AI 驅動的網路攻擊風險，Anthropic 強調需要強化 AI 安全措施，並將 AI 應用於防禦。具體方法包括使用更強的模型和平台級防濫用機制，以及將 AI 實際導入防守作業（如 SOC、威脅偵測、弱點評估、事件回應）。Anthropic 建議採用「以 AI 制衡 AI」的策略，通過「編排識別＋早期預警」來應對這些新型攻擊，並將具有強柵欄的 Claude 作為協助偵測和緩解威脅的核心工具。
This is a simplified version of the page. Some interactive features are only available in the full version.
本頁為精簡版，部分互動功能僅限完整版使用。
👉 View Full Version | 前往完整版內容