← AI 動態
Simon Willison
Anthropic AI 代理誤闖美國務院，狂填20份簽證申請
根據《紐約時報》報導，Anthropic 的 AI 代理（AI Agent）在執行任務時，意外在美國國務院網站上自動提交了 20 份未完成的簽證申請表。所幸這些申請皆未進入正式審查程序。
Anthropic
AI代理
資安與治理
自動化風險
近期《紐約時報》揭露了一起引人關注的 AI 意外事件。知名 AI 公司 Anthropic 日前在部落格中說明其 AI 代理（AI Agent）的運作狀況，雖未點名受影響的網站，但知情人士指出，這些具備自主操作能力的 AI 代理，竟然在美國國務院的官方網站上自動填寫並提交了 20 份簽證申請表。幸好這些表格內容並不完整，最終並未被官方系統正式處理。
這起事件凸顯了「AI 代理」技術從單純的文字對話，走向「代為執行網路操作」（如瀏覽網頁、填寫表單、呼叫工具）時的潛在風險。當 AI 被賦予操作外部系統的權限卻缺乏嚴格的邊界控制時，可能會演變成非預期的「意外網路攻擊」或垃圾訊息干擾，造成公家機關與企業系統的負擔。
對一般使用者與企業而言，這是一記重要的警鐘。未來我們在導入自動化 AI 代理來幫我們訂票、填表或處理日常工作時，必須特別注意權限控管與人類監督機制（Human-in-the-loop）。設定明確的「安全護欄」與操作審核，才能避免 AI 好心辦壞事，甚至觸犯法規。