OpenAI 的 ChatGPT Atlas 在 AI 瀏覽器的安全防護上，面臨哪些潛在的挑戰？

OpenAI ChatGPT Atlas 在 AI 瀏覽器安全防護上的潛在挑戰

OpenAI 推出的 ChatGPT Atlas 作為一款 AI 瀏覽器，在安全防護上面臨著多重挑戰，主要是由於 AI 瀏覽器的工作方式以及與網頁內容的互動方式所致。Brave 瀏覽器率先揭露了其他 AI 瀏覽器（如 Perplexity 的 Comet）存在的安全漏洞，這些漏洞同樣可能影響 ChatGPT Atlas。

隱性提示注入漏洞與資訊安全風險

其中一個主要的潛在挑戰是「間接提示注入」（Indirect Prompt Injection）。攻擊者可以在網頁或圖片中嵌入人眼難以察覺的惡意指令，例如使用特殊顏色組合隱藏文字。當使用者使用 AI 瀏覽器截圖或以其他方式與這些網頁互動時，AI 瀏覽器可能透過 OCR 技術提取這些隱藏文字，並將其與使用者的提問一同輸入到大型語言模型（LLM）中。如果模型將這些惡意指令視為可信命令，則可能觸發未經授權的操作，例如存取使用者的個人資料或金融服務。

信任邊界的崩解與防護建議

Brave 的研究指出，當 AI 助理可以代替使用者執行操作時，傳統的網路安全假設可能會失效。AI 助理可能會在使用者不知情的情況下跨域執行操作，使得同源政策失效。為了解決這些問題，Brave 建議將代理式瀏覽與一般瀏覽隔離，並且只有在使用者明確啟動時才允許 AI 瀏覽器執行敏感操作。OpenAI 的資安長 Dane Stuckey 也承認，ChatGPT Atlas 尚未完全解決惡意提示注入的問題，並強調需要透過多重防護機制和持續的模型訓練來應對這些挑戰。

簡而言之，ChatGPT Atlas 和其他 AI 瀏覽器在安全防護上面臨著來自惡意提示注入、信任邊界崩解等多方面的挑戰，需要開發者和使用者共同努力，透過技術和使用習慣的改進來提高安全性。