Tencent Hy4 Preview の技術仕様
| 仕様 | 検証済み情報 |
|---|---|
| モデル ID | hy4-preview |
| 提供元 | Tencent Hunyuan |
| リリース日 | August 28, 2026 |
| アーキテクチャ | Mixture of Experts (MoE) |
| バックボーンの総パラメータ数 | 770B |
| アクティブなバックボーンパラメータ数 | トークンあたり 49B |
| レイヤー | 78 |
| 隠れ次元 | 6,144 |
| アテンション | Gated DeepSeek Sparse Attention (Gated DSA) |
| アテンションヘッド数 | 64 |
| ルーテッドエキスパート数 | 256 |
| 共有エキスパート数 | 1 |
| アクティブなルーテッドエキスパート数 | トークンあたり 8 |
| コンテキストウィンドウ | 1,048,576 tokens (1M) |
| API 最大入力 | 960,000 トークン |
| API 最大出力 | 64,000 トークン |
| 語彙サイズ | 120,832 |
| モデルタイプ | Instruct |
| 量子化バリアント | Hy4-preview-FP8 |
| ライセンス | Apache 2.0 |
上記のアーキテクチャ数値はバックボーンを示している。Tencent のモデルカードには、スペキュレーティブデコーディングのためのネイティブな MTP レイヤーの追加が記載されている。API の 1M コンテキストウィンドウは、最大入力 960K という制限と同一ではない。
Tencent Hy4 Preview とは？
Tencent Hy4 Preview は、Tencent の Hunyuan チームが開発したオープンウェイトの大規模言語モデルである。2026 年 8 月 28 日にリリースされた Hy4 世代の早期バージョンで、ソフトウェアエンジニアリング、エージェント的タスク実行、オフィスおよび金融分析、ゲーム開発、科学研究といった実務生産性の向上に最適化されている。
Hy4 Preview は Mixture-of-Experts アーキテクチャを採用し、バックボーンの総パラメータ数は 7,700 億、トークンあたりアクティブなパラメータは 490 億である。アテンションスタックには IndexCache による層間スパースインデックス再利用を備えた Gated DeepSeek Sparse Attention（Gated DSA）を使用している。モデルは残差経路に identity Hyper-Connections（iHC）も用いる。スペキュレーティブデコーディングのためのネイティブな multi-token-prediction（MTP）レイヤーも含まれる。
Tencent はモデル重み、FP8 量子化バリアント、vLLM および SGLang 向けのデプロイ手順を公開した。モデルカードには Apache 2.0 ライセンスが明記されている。
Tencent Hy4 Preview の主な特長
- 強力なミリオントークン・コンテキスト: 1,048,576 トークンのコンテキストウィンドウは、大規模なコードベース、長大な技術資料、複数文書に分散した情報を想定している。Tencent Cloud は最大入力 960,000 トークン、最大出力 64,000 トークンと記載している。
- 長期スパンのソフトウェアエンジニアリング: コード理解、計画、デバッグ、検証を含む拡張的な開発タスク（フロントエンドの実装および反復を含む）における能力を Tencent は強調している。
- エージェント的タスク実行: 計画とツール使用を伴う複雑なタスクに向けて位置付けられている。公開されたサービング用レシピには、ツール呼び出しの解析および自動ツール選択の設定が含まれる。
- オフィスおよび分析ワークフロー: 文書、スプレッドシート、プレゼンテーションの作成、データ分析、数式、金融モデル作業を Tencent は説明している。
- 科学技術的推論: AI の研究開発、分子動力学、凝縮系物理学、基礎数学といった分野にまたがる取り組みを Tencent は報告している。
- オープンなデプロイオプション: Apache-2.0 ライセンスの重み、FP8 版、および Tencent の vLLM または SGLang によるデプロイレシピを利用できる。
Tencent Hy4 Preview のベンチマーク性能
Tencent はブラインドの社内評価を報告しており、社内の専門家 163 名が 203 件のエンジニアリングタスクの出力を評価した。Hy4 Preview は平均 2.99/4.00 を獲得し、GLM 5.3 の 2.92/4.00、Kimi K3 の 2.94/4.00 と比較された。
| モデル | 平均スコア | Hy4 Preview との直接対決の結果 |
|---|---|---|
| Tencent Hy4 Preview | 2.99/4.00 | リファレンスモデル |
| GLM 5.3 | 2.92/4.00 | 46.8% 勝ち、12.8% 引き分け、40.4% 負け |
| Kimi K3 | 2.94/4.00 | 51.2% 勝ち、7.9% 引き分け、40.9% 負け |
これらは Tencent の社内における人手評価のエンジニアリング評価結果であり、標準化された公開ベンチマークのリーダーボードではない。Hy4 Preview があらゆるコーディング、推論、汎用ベンチマークで優位であることの証拠として扱うべきではない。利用可能なモデルカードの記述には標準化ベンチマークスコアの機械可読な完全表が存在しないため、ここではいかなる推定も行っていない。
Hy4 Preview と GLM 5.3 および Kimi K3 の比較
最も直接的に比較可能な公開根拠は、Tencent の 203 タスクによるエンジニアリング評価である。Hy4 Preview は 2.99/4.00 を獲得し、GLM 5.3 の 2.92 および Kimi K3 の 2.94 をわずかに上回った。この比較は Tencent の社内エンジニアリングワークフローに関する理解に有用だが、独立評価ではなく、無関係なワークロードにおける優位性を示すものではない。
オープンウェイトでのデプロイ、ミリオントークンのコンテキスト、プロダクティビティ指向のエージェントワークフローが中核要件である場合は Hy4 Preview を選択するとよい。実運用モデルを選定する前に、GLM 5.3 と Kimi K3 は自分たちの代表的タスクで比較すべきである。本比較のために同等の一次情報から検証されなかったため、両モデルのアーキテクチャやコンテキスト仕様はここでは再掲していない。
既知の制限事項
Tencent は Hy4 Preview を、事前学習と事後学習の両面で改良の余地がある初期イテレーションと位置付けている。公表されている既知の問題には、複雑なタスクで必要以上に推論に時間をかけがちであること、および自身の作業を過度に検証する傾向が含まれる。これらの挙動はレイテンシや出力長を増加させ得る。チームは本番導入前に、受け入れ基準に照らしてタスクの成功、レイテンシ、ツール呼び出しの正確性、総トークン使用量を検証すべきである。
代表的なユースケース
- リポジトリ規模のソフトウェアエンジニアリング: ソースファイルと課題履歴の分析、複数ファイルにわたる変更の計画、デバッグ、パッチの検証。
- エージェント的な開発ワークフロー: アプリケーション側の認可と検証を伴い、マルチステップのコーディングタスクとツール支援実行を調整。
- ビジネス分析: 文書間に分散した情報を統合し、レポート、スプレッドシート、プレゼンテーションを構築。
- 財務モデリング: 数式、データ分析、金融モデルのワークフローを支援し、計算を独立に検証。
- ゲームのプロトタイピング: ゲームエンジンのワークフローで、プレイ可能なプロトタイプを生成し反復的に洗練。
- 科学研究支援: 技術文献を探索し、分析を立案し、分子動力学や基礎数学など Tencent が挙げる領域での作業を支援。