← AI 動態 Simon Willison

AI 免費午餐結束:Fable 太貴,任務分流成新趨勢

隨強大卻昂貴的 Fable 模型問世,依賴單一模型解決問題的時代已告終。如今開發者必須依任務難度,將工作分流給 Opus 等不同模型,以有效控管高昂的 AI 成本。

模型路由 成本控管 LLM定價
AI 免費午餐結束:Fable 太貴,任務分流成新趨勢

過去在 AI 開發領域,開發者往往不太花時間優化程式碼架構或上下文策略,因為總會有更便宜、更聰明的新模型推出,自動解決先前的技術瓶頸。這種被稱為「免費午餐」的紅利,讓許多人習慣依賴單一的最先進模型。

然而,隨著極其強大的 Fable 模型問世,趨勢發生了改變。Fable 的能力雖然令人驚豔,但其高昂的使用成本讓開發者無法再全面採用。相對地,像 Opus 這樣較舊或較低階的模型,在處理多數日常程式碼任務時其實已經「夠用」。

這促使業界轉向「模型路由(Model Routing)」與任務分流策略。企業不再盲目追求頂級模型,而是仔細評估各項任務的最佳解。這意味著未來的 AI 導入將更講究成本效益與精細化的資源分配,精準控管才能在效能與預算間取得最佳平衡。