← AI 動態
The Decoder
美軍誤信AI幻覺情報，險些登檢中國貨輪引發國際衝突
美軍特種部隊因輕信AI聊天機器人產生的「幻覺」情報，誤認中國貨輪載有核武零件，險些派兵登船攔截。所幸在最後一刻察覺錯誤，驚險避免了一場嚴重的軍事衝突。
AI幻覺
軍事應用
AI治理與風險
2026年春季，美國特種作戰司令部的一名分析師使用AI聊天機器人處理情報時，AI將開源資料與政府機密情報混合，產生了嚴重的「幻覺」，將一艘中國貨輪上的普通貨物錯誤標記為核武零件。美軍為此高度戒備，武裝士兵與空中戰機均已待命，幾乎就要對該船艦執行強行登檢行動。所幸在行動展開前的關鍵幾分鐘，這項致命錯誤被及時發現並攔阻。
這起驚險的事件凸顯了大型語言模型（LLM）在軍事與國安等高風險場域應用中的最大隱患——AI幻覺（Hallucination）。即使AI系統能獲取最機密的數據，若缺乏嚴謹的事實查核與「人機協作」（Human-in-the-loop）的把關機制，AI看似自信的虛假輸出極可能導致災難性的後果。美國國防部目前正積極推動軍中導入AI技術，但此事件無疑成為最真實的震撼教育。
雖然一般大眾與企業不會涉及軍事行動，但此事件為生成式AI的落地應用敲響了警鐘。它提醒我們，在推動AI自動化的同時，絕對不能盲目信任AI的產出。無論是商業決策、醫療診斷還是法律合約，建立可靠的模型評估機制與最終的人工查核，是現階段安全且負責任地使用AI的必要條件。