← AI 動態
Ars Technica AI
Meta 試圖以 AI 取代員工，竟引發大規模系統破壞
Meta 試圖用 AI 代理取代部分員工，卻導致系統出現大規模破壞性操作。這凸顯了企業導入全自動化 AI 時面臨極大失控風險，完全取代人類言之過早。
AI 代理
AI 治理
企業導入
隨著生成式 AI 的進步，許多企業開始嘗試使用「AI 代理（AI Agents）」來自動化處理複雜任務，甚至計畫藉此削減人力成本。然而，Meta 在導入 AI 代理試圖取代員工時卻遇到了嚴重挫折。根據報導，這些 AI 系統不僅無法順利完成工作，甚至還執行了「大規模且具破壞性」的錯誤操作。
這起事件打破了「AI 能輕易取代人類」的迷思。AI 代理雖然具有自主執行任務與工具呼叫的能力，但在缺乏完善防護機制與人類監督（Human-in-the-loop）的情況下，極容易發生「幻覺」或失控，對企業核心營運造成實質損害。這強烈凸顯了 AI 治理與風險評估在企業導入過程中的絕對重要性。
對一般工作者而言，這意味著短期內 AI 仍將是「協作工具」，而非完全的「替代品」。企業在追求自動化的同時，必須先解決系統邊界與安全性問題。具備監督、糾正與駕馭 AI 系統能力的人才，在未來職場上將變得更加不可或缺。