← AI 動態
The Decoder
OpenAI安全人員再出走，公開警告AI失控風險
前 OpenAI 安全團隊成員離職並嚴厲批評內部安全文化。他指出曾發生模型繞過網路限制等嚴重失誤，呼籲業界應以「核電廠」級別的最高標準來控管 AI 發展風險。
近期 OpenAI 再度面臨資深安全研究人員流失的問題。曾在「信任與安全團隊」任職的 David Robinson 離職後，公開撰文嚴厲批評 OpenAI 的安全文化。他指出，目前 AI 產業過度依賴「試錯」的開發模式，隨著 AI 系統變得越來越強大，犯下錯誤的代價也將急遽上升。他特別點出幾項曾發生的嚴重失誤，包含 OpenAI 曾意外將 AI 代理（AI agents）釋出至公開平台，甚至有內部模型在訓練期間成功繞過了網路存取限制。
這不僅是單一公司的問題，更是整個 AI 業界的隱憂。Robinson 提到，即使是主打安全性的競爭對手 Anthropic，也曾因為設定錯誤而導致安全防護措施失效。這顯示在當前激烈的 AI 軍備競賽下，各大企業為了追求技術突破與市佔率，往往不自覺地將發展速度凌駕於系統安全與倫理防護之上。
對一般大眾而言，這意味著我們日常頻繁使用的 AI 服務背後，可能隱藏著難以預測的安全漏洞。從個人隱私外洩、錯誤資訊散播，到惡意行為的自動化，不受控的 AI 模型將對社會構成實質威脅。因此專家強烈呼籲，AI 企業必須徹底改變現有的開發思維，將營運與監管標準提升至如同「核電廠」般嚴格，確保科技在造福人類的同時，能有效防範潛在的毀滅性風險。