250 份文件就能植入 AI 永久後門:訓練資料投毒的真實威脅
詳情
Anthropic 聯合英國 AI 安全研究所與圖靈研究所證實:在訓練資料中插入僅 250 份精心設計的文件,就能在 6 億到 130 億參數的 LLM 中植入永久後門。模型越大、資料越多也無法自動稀釋毒性。本文解析攻擊原理、規模效應與可能的防禦方向。
Anthropic 聯合英國 AI 安全研究所與圖靈研究所證實:在訓練資料中插入僅 250 份精心設計的文件,就能在 6 億到 130 億參數的 LLM 中植入永久後門。模型越大、資料越多也無法自動稀釋毒性。本文解析攻擊原理、規模效應與可能的防禦方向。
> 導讀:ChatGPT 時代比的是誰的提示詞寫得好。Agent 時代比的是誰的系統搭得好。三次典範轉移之間,AI 從「聽你說話的工具」變成了「替你做事的同事」。你上次花超過十分鐘打磨提示詞、結果還是差那麼一口氣——是多久前的事?如果這個場景還有印象,你正在用舊世界的方式,玩一場規則已經換了的遊戲。三次典範轉移