← AI 動態
The Decoder
調查揭露：近兩成AI科學家擔憂人工智慧引發滅絕危機
Anthropic等機構專家的發言再次引爆AI風險討論。早在2024年調查中，已有近兩成頂尖AI研究員擔憂，人工智慧發展可能導致人類面臨滅絕危機。
AI風險
AI治理
人工智慧安全
近期，Anthropic研究員的一則貼文以及OpenAI專家的警告，再次將「AI生存風險」推上風口浪尖。這並非學界首次發出警告，科學家與科技領袖多年來持續呼籲，AI在追求設定目標的過程中若不受控，極可能以毀滅人類的方式達成目的。
這項警訊的急迫性正在不斷上升。根據2024年一項針對超過1,500名頂尖AI研究人員的調查顯示，竟有將近五分之一的專家認為，人工智慧最終可能引發導致人類滅絕的劇本。這顯示AI安全與模型對齊（Alignment）問題，已不再是科幻情節，而是學界內部極度重視的現實危機。
對一般大眾與企業而言，這意味著我們在擁抱AI強大生產力的同時，必須更加關注AI治理與法規監管的發展。確保開發出對人類安全、且符合人類價值觀的AI系統，將是未來科技發展的重中之重。