← AI 動態 Simon Willison

騰訊發布開源大模型 Hy4:具備百萬上下文與推理模式

騰訊最新開源的純文本大模型 Hy4 具備7700億總參數與百萬 Token 上下文長度,並內建「深度思考」與「無思考」兩種推理模式,展現開源 AI 模型的強大躍進。

大型語言模型 開源模型 AI推理
騰訊發布開源大模型 Hy4:具備百萬上下文與推理模式

騰訊發布了最新的開源純文本大型語言模型「Hy4 Preview」,規模較上一代大幅躍升。這款模型擁有高達7700億的總參數量(啟動參數為490億),並支援多達100萬 Token 的超長上下文視窗,模型檔案大小高達 1.56TB。相比於七月推出的 Hy3 模型,這是一次驚人的技術升級。

知名開發者 Simon Willison 分析其程式碼發現,Hy4 在設計上內建了兩種推理模式:「high」(預設的高強度思考模式)與「no_think」(關閉思考推理)。這意味著使用者可以根據任務的複雜度,靈活選擇要讓模型花費算力進行深層次的邏輯推演,還是快速給出直覺式的反應。

這項技術進展對開發者與企業而言,代表能取得更強大的開源工具來處理超長文本(如整本書或巨量程式碼)。而明確的推理模式切換機制,也為未來控制 AI 運算成本與回應速度提供了極佳的最佳化方向。