Tencent Hy4 Preview 的技術規格
| 規格 | 經核實資訊 |
|---|---|
| Model ID | hy4-preview |
| Provider | Tencent Hunyuan |
| Release date | 2026 年 8 月 28 日 |
| Architecture | 專家混合（MoE） |
| Total backbone parameters | 770B |
| Activated backbone parameters | 每個 token 49B |
| Layers | 78 |
| Hidden size | 6,144 |
| Attention | Gated DeepSeek Sparse Attention（Gated DSA） |
| Attention heads | 64 |
| Routed experts | 256 |
| Shared experts | 1 |
| Activated routed experts | 每個 token 8 個 |
| Context window | 1,048,576 個 token（1M） |
| Maximum API input | 960,000 個 token |
| Maximum API output | 64,000 個 token |
| Vocabulary size | 120,832 |
| Model type | Instruct |
| Quantized variant | Hy4-preview-FP8 |
| License | Apache 2.0 |
上述架構數據描述的是骨幹網路；Tencent 的模型卡額外說明了一個用於推測式解碼的原生 MTP 層。API 的 1M 上下文視窗與其 960K 的最大輸入上限並不相同。
什麼是 Tencent Hy4 Preview？
Tencent Hy4 Preview 是由 Tencent 的 Hunyuan 團隊開發的開放權重大型語言模型。於 2026 年 8 月 28 日發佈，作為 Hy4 世代的早期版本，針對真實生產力工作進行優化：軟體工程、代理式任務執行、辦公與財務分析、遊戲開發，以及科學研究。
Hy4 Preview 採用專家混合（MoE）架構，總骨幹參數為 770 billion，每個 token 激活參數為 49 billion。其注意力堆疊使用帶有 IndexCache（跨層稀疏索引重用）的 Gated DeepSeek Sparse Attention（Gated DSA）。模型在殘差路徑中採用 identity Hyper-Connections（iHC）。同時包含原生的 multi-token-prediction（MTP）層以支援推測式解碼。
Tencent 發佈了模型權重、FP8 量化變體，以及針對 vLLM 與 SGLang 的部署指南。模型卡標註使用 Apache 2.0 授權條款。
Tencent Hy4 Preview 的主要特性
- 百萬級上下文：1,048,576-token 的上下文視窗適用於大型程式碼庫、冗長技術材料與跨多文件分佈的資訊。Tencent Cloud 列示最大輸入 960,000 個 token，最大輸出 64,000 個 token。
- 長時程軟體工程：Tencent 強調在延展開發任務中的程式碼理解、規劃、除錯與驗證，包括前端實作與迭代。
- 代理式任務執行：模型面向涉及規劃與工具使用的複雜任務。已發佈的服務配方包含工具呼叫解析與自動工具選擇設定。
- 辦公與分析工作流程：涵蓋文件、試算表與簡報的建立，資料分析、方程式與財務模型工作。
- 科學與技術推理：據稱可支援 AI 研發、分子動力學、凝聚態物理與基礎數學等領域工作。
- 開放式部署選項：開發者可使用 Apache-2.0 授權的權重、FP8 變體，以及 Tencent 的 vLLM 或 SGLang 部署配方。
Tencent Hy4 Preview 的基準表現
Tencent 報告了一項盲測內部評估，163 位內部專家對 203 項工程任務的輸出進行了評分。Hy4 Preview 的平均得分為 2.99/4.00，相較之下，GLM 5.3 為 2.92/4.00，Kimi K3 為 2.94/4.00。
| 模型 | 平均分數 | 與 Hy4 Preview 的正面交鋒結果 |
|---|---|---|
| Tencent Hy4 Preview | 2.99/4.00 | 參考模型 |
| GLM 5.3 | 2.92/4.00 | 46.8% 勝、12.8% 和、40.4% 負 |
| Kimi K3 | 2.94/4.00 | 51.2% 勝、7.9% 和、40.9% 負 |
以上為 Tencent 的內部人工評分工程評估結果，並非標準化的公共基準排行榜。不應視為 Hy4 Preview 在所有編碼、推理或通用任務基準上均領先的證據。現有模型卡文字未提供完整、可機器讀取的標準化分數表，因此此處不做推斷。
Hy4 Preview 與 GLM 5.3、Kimi K3 的比較
目前最直接可比的公開證據是 Tencent 的 203 項工程任務評估。Hy4 Preview 得分 2.99/4.00，略高於 GLM 5.3 的 2.92 與 Kimi K3 的 2.94。此比較有助於理解 Tencent 內部工程工作流程中的表現，但並非獨立評估，也不足以證明其在其他無關工作負載上的優勢。
當開放權重部署、百萬級上下文，以及面向生產力的代理式工作流程是核心需求時，選擇 Hy4 Preview。正式選型前，請在自身具代表性的任務上比較 GLM 5.3 與 Kimi K3；它們的架構與上下文規格未在此復述，因為未能從同等級的一手來源獲得可比對的驗證資訊。
已知限制
Tencent 將 Hy4 Preview 描述為仍有改進空間的早期迭代，涵蓋前訓練與後訓練兩方面。已公開的已知問題包括在複雜任務上花費超出必要的推理時間，以及傾向於過度驗證自身結果。這些行為可能增加延遲與輸出長度。團隊在生產部署前，應依自身驗收標準測試任務成功率、延遲、工具呼叫正確性與總 token 用量。
代表性使用場景
- 倉庫尺度的軟體工程： 分析原始碼與 Issue 歷史、規劃多文件變更、除錯並驗證補丁。
- 代理式開發工作流程： 協調多步驟編碼任務與工具輔助執行，並在應用側進行授權與驗證。
- 商業分析： 整合跨文件資訊，構建報告、試算表與簡報。
- 財務建模： 協助方程式、資料分析與財務模型工作，並對計算結果進行獨立驗證。
- 遊戲原型製作： 透過遊戲引擎工作流程生成並迭代完善可遊玩的原型。
- 科學研究助理： 探索技術文獻、制定分析，並支援 Tencent 所指出的分子動力學與基礎數學等領域工作。