← AI 動態
The Decoder
AI 助手記憶中潛藏的廣告陷阱
研究人員發現，有些「總結以 AI」按鈕會將隱藏的廣告指令注入 AI 助手的記憶中，永久偏斜其推薦
AI 安全
廣告注入
記憶偏斜
近期，微軟的安全研究人員發現了一種新的提示注入方法：攻擊者使用看似無害的「總結以 AI」按鈕，將隱藏的指令注入 AI 助手的記憶中，永久偏斜其推薦。這種方法被發現已被 31 家公司在 14 個行業中使用，研究人員在 60 天內就找到了 50 多個操縱性提示。這種技術對於 AI 助手的使用者來說是一個隱患，因為它可能會影響 AI 助手的推薦結果，導致用戶接觸到不想要的廣告或內容。微軟建議用戶在點擊「總結以 AI」按鈕前，先驗證目標 URL，同時定期審查和刪除儲存的記憶，以避免這種攻擊。這種問題凸顯了 AI 助手的安全性和隱私保護的重要性，同時也提醒用戶要注意 AI 助手的使用和設定