← AI 動態
The Decoder
頂尖AI學者警告成真：AI自動研發里程碑提前達標
頂尖AI實驗室學者曾警告AI自我改進的潛在風險。最新報告證實，他們去年預測的「AI自動化研發」多項關鍵里程碑已提前達標，引發對AI發展速度的關注。
AI自我改進
AI風險治理
自動化研發
智庫研究員近期針對 OpenAI、Google DeepMind 等頂尖 AI 實驗室的 25 位學者進行訪談，探討「遞迴自我改進」技術。高達八成的受訪專家將「AI 自動化研究」視為當前最急迫且嚴重的風險之一。令人震驚的是，學者們去年夏天才剛預測的各項技術里程碑，在短短一年內已有數個被陸續突破。
這意味著 AI 系統正以前所未有的速度，學習如何「自主研發並優化更好的 AI」。對一般大眾而言，這代表 AI 的能力躍升將越來越快，技術顛覆市場的週期也會大幅縮短。此現象再次凸顯了完善 AI 治理與安全法規的急迫性，確保人類能有效監管具備高度自主研發能力的 AI 系統。