← AI 動態
The Decoder
OpenAI啟用AI研究實習生，首席科學家齊發安全警告
OpenAI宣布AI代理已能勝任研究實習生，大幅自動化研發流程。但首席科學家警告，業界對強大AI的安全控制仍不足，盲目擴張存在巨大隱患。
OpenAI
AI代理
AI安全與對齊
OpenAI 最新釋出的內部數據顯示，AI 代理（AI Agents）已大幅介入模型開發流程，相對於人類員工的單日工作量，AI 已能處理高達 3.1 天的份量。這標誌著 OpenAI 成功達成「自動化研究實習生」的里程碑，讓 AI 具備自我研發與迭代改良的雛形，邁向全新階段。
然而，伴隨這項技術突破，OpenAI 首席科學家 Jakub Pachocki 卻提出了罕見的嚴厲警告。他坦言，目前世界上所有 AI 實驗室都尚未能有效掌握強大 AI 系統的「對齊（Alignment）」與安全監控技術。如果在缺乏完善控制機制的情況下，持續盲目擴張模型規模與算力，將對人類社會帶來難以預知的風險。
對一般大眾與企業而言，這則消息揭示了 AI 技術發展的雙面刃。一方面，AI 代理化將加速各種軟硬體與商業應用的落地，顛覆現有工作模式；另一方面，頂尖專家的擔憂凸顯了 AI 治理與法規的急迫性。未來在導入這類強大 AI 工具時，安全控管、資料隱私與倫理防線將成為不可忽視的關鍵課題。