← AI 動態 Simon Willison

用 AI 幻覺做分類!結合向量搜尋突破標籤數量限制

面對過多分類標籤無法塞入 LLM 的難題,專家提出奇招:先讓 AI 刻意產生「幻覺」生成理想標籤,再透過向量比對找出系統內最相近的現有標籤,巧妙突破上下文限制!

AI幻覺 向量搜尋 提示工程
用 AI 幻覺做分類!結合向量搜尋突破標籤數量限制

知名開發者 Simon Willison 在整理個人部落格時,發現累積的 1,856 個標籤數量龐大,根本無法一次放進大型語言模型(LLM)的提示詞中讓它進行分類。對此,搜尋技術專家 Doug Turnbull 提出了一個反直覺卻極為巧妙的解決方案:「不要讓模型分類,讓它產生幻覺!」

這個方法的具體作法是,在提示詞中完全不提供現有的標籤庫,而是直接要求 AI 根據文章內容「憑空想像」出最完美的標籤。接著,將 AI 生成的這些「幻覺標籤」轉換成向量嵌入(Vector Embeddings),並與現有標籤庫進行語意相似度比對(Similarity Search)。如此一來,就能精準找出系統中已存在、且最符合文章脈絡的分類。

這個技術巧思為何重要?它完美展示了如何將 AI 經常被詬病的「幻覺」轉化為實用的優勢。對企業或開發者而言,未來在處理龐大的商品目錄、文件歸檔或內部知識庫時,不再需要耗費高額成本將所有分類選項塞入上下文,只需結合「生成式 AI + 向量檢索」,就能以低成本、高效率的方式完成精華資料的自動對接。