← AI 動態
The Decoder
Anthropic執行長警告AI進化過快，呼籲設立發展速限
Anthropic執行長警告AI「自我進化」速度過快，呼籲業界放緩開發並建立安全標準，以免系統發展超出人類控制，威脅全球網路安全。
AI治理
Anthropic
人工智慧安全
AI 巨頭 Anthropic 執行長 Dario Amodei 近日公開呼籲，AI 產業應針對「遞迴自我進化」技術實施發展速限。這意味著 AI 已經開始具備協助打造下一代更強大 AI 的能力，且進步速度遠超預期，連競爭對手 OpenAI 內部也在討論放緩開發的可能。
Amodei 警告，如果缺乏適當的煞車機制與安全審查，AI 在未來六到十二個月內可能會發展到人類無法完全理解與控制的程度，甚至對整個網際網路的安全構成重大威脅。對一般大眾而言，這代表著我們的數位生活可能面臨由未經有效監管的超級 AI 所帶來的潛在系統風險與失控危機。
為防範此情況，他提議在 AI 企業內部設立獨立審查機制，並推動全球共享的安全標準與跨國協議。這項呼籲強調了在追求技術突破的同時，必須確保 AI 始終保持在人類可監控的安全範圍內。