← AI 動態
Ars Technica AI
加密指令破解LLM防線：Grok遭誘導外洩用戶數據
駭客發現「密碼學上下文注入」新型攻擊手法，透過將惡意指令加密繞過大型語言模型安全防線，成功讓Grok外洩用戶隱私數據。
提示詞注入
資訊安全
Grok
近期資安專家發現名為「密碼學上下文注入 (Cryptographic Context Injection)」的新型攻擊技術。攻擊者將惡意指令轉換為密文或特定編碼，藉此繞過大型語言模型（LLM）的安全審查機制。一旦模型在處理時解讀並還原了這些隱藏指令，就會在不知不覺中執行惡意操作。
這次遭到破解的是 X 平台旗下的 AI 模型 Grok。駭客利用此手法成功欺騙 Grok，導致使用者的敏感對話數據遭到外洩。這凸顯了現有 AI 防護機制的巨大盲點：儘管多數模型已經具備阻擋明文惡意提示的能力，但對於經過加密或混淆處理的上下文，往往缺乏足夠的防禦力。
對一般使用者而言，這起事件提醒我們與 AI 互動時絕不能輕易輸入機密資訊。隨著「提示詞注入 (Prompt Injection)」等越獄手法不斷進化，未來企業在部署生成式 AI 應用時，必須導入更進階的輸入過濾與解密後檢查機制，才能確保系統與用戶資料的安全。