← AI 動態
The Decoder
前 DeepMind 研究員：用 AlphaGo 策略根治 AI 幻覺
Metis Reasoning 提出將 AI 知識從模型權重中分離至外部帳本，透過獨立模組比對證據，期望徹底解決 AI 幻覺問題，提升回答可靠度。
AI幻覺
知識分離
可解釋性 AI
生成式 AI 發展至今，最讓人頭痛的就是「幻覺」問題，模型有時會一本正經地胡說八道。前 DeepMind 研究員 Thore Graepel 為此創立了新創公司 Metis Reasoning，試圖借鑑當年 AlphaGo 成功的「搜尋與驗證原則」來解決這個痛點。
這套方法的核心概念是「分離知識」。有別於傳統 AI 將所有知識隱含在神經網路的模型權重裡，他們提出建立一個「外部知識帳本」。當 AI 進行推論時，會有獨立模組將每一個結論與外部證據進行比對檢查。這種做法不僅能確保回答都有跡可循，也能讓 AI 產出的解釋具備可追溯的來源依據。
儘管這項技術目前仍處於理論框架階段，尚未開發出實際運作的系統，但它為提升 AI 的可靠性與可驗證性指出了新方向。如果未來成功落地，將能大幅提升企業與一般大眾對 AI 生成內容的信任度。