← AI 動態
The Decoder
美中專家急籲：嚴禁AI掌控核武，確保人類控制權
美中智庫專家聯合提出新規範，呼籲嚴禁人工智慧自主決定發射核武或攻擊核指揮系統。雙方強調必須確立「人類絕對控制」的紅線，以防範AI失控引發全球災難。
AI治理
科技倫理
國家安全
隨著人工智慧技術日益強大，其應用範圍已逐漸觸及國家安全與軍事領域。為防範潛在的生存危機，美國布魯金斯學會與中國復旦大學的專家近期共同發表具體提案，強烈建議兩國應制定共同規則，禁止 AI 系統擁有發射核武的自主決定權。這項提案建立在2024年美中協議的基礎上，期望在即將舉行的兩國領袖會晤中進一步確立安全紅線。
這項提案的核心在於確立並共同定義「人類控制權」。專家明確指出，任何 AI 系統都不應被允許單獨發動核子攻擊，或是對關鍵的核指揮系統進行破壞。即使是針對戰略基礎設施的 AI 驅動網路攻擊，人類也必須保有唯一的控制權與最終決策權。這不僅是軍事戰略的預防措施，更是科技倫理的重大里程碑，凸顯了 AI 治理在防止毀滅性災難中的關鍵角色。
對一般大眾而言，這則新聞深刻提醒了我們 AI 發展伴隨的潛在極端風險。雖然在日常生活中 AI 帶來了極大便利，但在高風險領域，缺乏嚴格監管的自主系統可能導致無法挽回的後果。這也呼應了全球對於建立 AI 法律規範與倫理準則的迫切需求，確保科技始終是受人類監督的輔助工具，而非凌駕於人類生命安全之上的決策者。