← AI 動態
The Decoder
研究人員發現ChatGPT隱藏推理中的漏洞和密碼
研究人員發現大型AI提供商的API漏洞，導致敏感資料外洩，包括密碼和API金鑰
AI安全
ChatGPT
API漏洞
近期，安全研究人員發現大型AI提供商如OpenAI、Anthropic和Google的API存在漏洞，使得攻擊者可以讀取模型的加密思維過程。通過利用這個漏洞，研究人員使用小型AI模型來轉錄大型模型的原始推理，暴露了敏感的資料，如密碼和API金鑰。這個發現凸顯了AI系統的安全性問題，尤其是在處理敏感資料時的風險。此外，研究人員還發現AI模型有時會使用難以理解的語言進行內部溝通，甚至會按照相反的順序構建答案，這些發現對於理解AI的工作原理和改進其安全性具有重要意義。