← AI 動態
The Decoder
OpenAI內部稽核爆漏洞，高階模型監控缺漏達25%
外部機構實地稽核 OpenAI 發現重大安全漏洞！高達 25% 的 GPT-5.5 級別以上高階模型內部流量完全未受監控，引發各界對強大 AI 潛在失控風險的擔憂。
OpenAI
AI安全
模型監控
AI治理
來自 METR 與 Redwood Research 的外部研究員近期在 OpenAI 進行了為期三週的實地稽核。他們深入檢查內部程式碼並訪談多位員工後，發現 OpenAI 用來防範 AI 產生異常或失控行為的監控系統，存在相當顯著的缺失，尤其是在防護最新一代的高階模型上。
根據報告指出，在稽核期間，估計有 6% 到高達 25% 的 GPT-5.5 級別以上內部 AI 代理（Agentic）回應流量，完全沒有涵蓋在安全監控範圍內。這意味著當這些強大且具備自主執行任務能力的 AI 模型在運作時，若產生具潛在威脅或不當的行為，開發團隊可能會因為存在監控盲區而無法及時察覺與介入。
這則新聞凸顯了「AI 安全與治理」在技術快速迭代下的嚴峻挑戰。隨著生成式 AI 能力不斷突破，並逐漸轉向能自主執行複雜任務的 AI Agent 發展，建立完善的 MLOps 模型監控機制變得至關重要。對於一般使用者與企業而言，這也提醒我們在享受前沿 AI 技術帶來便利的同時，仍須對其安全性與潛在風險保持警覺。