← AI 動態
The Decoder
高通推出新技術：將 AI 推理鏈縮小 2.4 倍，適合手機運行
高通 AI 研究團隊開發了一套模組化系統，能夠將具有推理能力的語言模型壓縮 2.4 倍，適合在手機上運行
AI
高通
語言模型
手機
高通 AI 研究團隊最近開發了一套模組化系統，能夠將具有推理能力的語言模型直接運行在手機上，無需連接雲端服務。由於這些模型的思考過程非常冗長，會耗盡記憶體和電池，團隊使用了強化學習來壓縮輸出結果，同时保持準確性。這項技術的進步意味著手機上的 AI 能力將更加強大，但仍然需要進一步的整合和開發，才能夠在實際應用中發揮作用。例如，谷歌等公司仍然需要依靠雲端服務來實現郵件、照片和日曆等應用的 AI 功能