← AI 動態
The Decoder
亞馬遜為降低成本，開始使用 Anthropic 模型的蒸餾技術
亞馬遜的工程師正在使用蒸餾技術來降低 Anthropic 模型的成本，預備面對新token基礎的計價模式
Anthropic
亞馬遜
AI 模型
蒸餾技術
根據 The Information 的報導，亞馬遜的工程師正在使用蒸餾技術來降低 Anthropic 模型的成本。這是因為亞馬遜將在明年開始使用token基礎的計價模式，屆時模型的成本可能會大幅增加。蒸餾技術可以讓小型模型從大型模型中學習，從而降低成本。亞馬遜已經在其 Bedrock 雲平台上提供蒸餾服務，但 Anthropic 的 Claude 模型尚未在此平台上提供。亞馬遜的這項舉動表明，該公司正在積極尋找方法來降低 AI 模型的成本。這也反映出，隨著 AI 技術的發展，企業們正面臨著如何有效地使用和管理 AI 資源的挑戰。