← AI 動態
The Decoder
前頂尖研究員警告：超級 AI 十年內毀滅人類機率逾一成
前頂尖 AI 研究員指控企業罔顧生存風險。內部專家坦言，十年內超級智能失控並毀滅人類的機率超過一成，引發社會對 AI 安全的強烈關注。
AI安全
科技倫理
超級智能
近期，曾在 OpenAI 與 Anthropic 負責大型語言模型預訓練的研究員 Jacob Coxon 宣布離職，並嚴厲指控這兩家頂尖 AI 公司正在拿人類的生存作為賭注。對此，Anthropic 內部的 AI 安全研究員 Evan Hubinger 更公開表示，在未來十年內，未能與人類價值觀對齊的「超級智能 AI」導致人類滅絕的機率高達 10% 以上。這番言論震驚了科技界。
這起事件凸顯了 AI 技術狂飆下的隱憂。當前科技巨頭在激烈競爭中，往往將模型能力的提升置於安全防護之上。對一般大眾而言，這意味著我們所依賴的數位系統與社會基礎設施，未來可能面臨不受控的潛在威脅。雖然「AI 毀滅人類」聽起來像是科幻電影的情節，但當最前線的科學家都發出警告時，這已成為我們必須嚴肅面對的現實課題。
隨著 AI 技術日益強大，建立完善的 AI 治理框架與倫理規範變得刻不容緩。大眾應更關注 AI 發展的軌跡，並呼籲企業在開發超級智能時，必須將「AI 安全與價值觀對齊」視為最高指導原則，確保科技發展能真正造福社會，而不是帶來毀滅。