← AI 動態
The Decoder
OpenAI警告AI自我進化風險，急籲制定國際標準
OpenAI 呼籲針對「AI 遞迴自我改善」技術制定全球標準與安全機制。若缺乏防護，AI 在自主研發新一代模型時，人類恐面臨全面失控的嚴重威脅。
OpenAI
AI安全
科技監管
近日，OpenAI 大力推動針對高階 AI 開發的國際標準，特別聚焦於「遞迴自我改善（RSI）」技術。RSI 是指 AI 系統能自動化執行研發工作，進而自主打造出下一代更聰明的 AI，這將使 AI 的發展速度呈現爆發性成長。
OpenAI 警告，雖然目前尚未出現完全自主的 RSI，但我們必須在確保安全的前提下才能繼續推進。如果沒有成熟的防護措施與全球一致的監管機制，人類極可能在未來無法掌握 AI 的發展軌跡，導致 AI 變得不受控制、偏離人類價值觀，甚至對全人類構成不可逆的威脅。
為此，OpenAI 提議由美國帶頭建立全球性的技術測量標準與監管框架。對一般大眾而言，這意味著未來的 AI 發展將從「無限制狂飆」轉向「安全可控」，確保這項強大技術在顛覆世界的同時，始終受到人類的有效牽制與嚴格管理。