Spécifications techniques de Tencent Hy4 Preview
| Spécification | Informations vérifiées |
|---|---|
| Model ID | hy4-preview |
| Provider | Tencent Hunyuan |
| Release date | 28 août 2026 |
| Architecture | Mélange d’experts (MoE) |
| Total backbone parameters | 770B |
| Activated backbone parameters | 49B par jeton |
| Layers | 78 |
| Hidden size | Dimension cachée : 6,144 |
| Attention | Attention clairsemée DeepSeek à portes (Gated DSA) |
| Attention heads | 64 |
| Routed experts | 256 |
| Shared experts | 1 |
| Activated routed experts | 8 par jeton |
| Context window | 1,048,576 jetons (1M) |
| Maximum API input | 960,000 jetons |
| Maximum API output | 64,000 jetons |
| Vocabulary size | 120,832 |
| Model type | Instruct |
| Quantized variant | Hy4-preview-FP8 |
| License | Apache 2.0 |
Les chiffres d’architecture ci-dessus décrivent le backbone ; la fiche du modèle de Tencent décrit une couche MTP native supplémentaire pour le décodage spéculatif. La fenêtre de contexte de 1M de l’API n’est pas identique à sa limite d’entrée maximale de 960K.
Qu’est-ce que Tencent Hy4 Preview ?
Tencent Hy4 Preview est un modèle de langage à poids ouverts développé par l’équipe Hunyuan de Tencent. Publié le 28 août 2026, il s’agit d’une première version de la génération Hy4, optimisée pour la productivité en conditions réelles : génie logiciel, exécution de tâches agentiques, analyses bureautiques et financières, développement de jeux et recherche scientifique.
Hy4 Preview utilise une architecture à mélange d’experts avec 770 milliards de paramètres totaux de backbone et 49 milliards de paramètres activés par jeton. Sa pile d’attention recourt à l’Attention clairsemée DeepSeek à portes (Gated DSA) avec IndexCache pour la réutilisation inter-couches des index clairsemés. Le modèle emploie également des Hyper-Connections d’identité (iHC) dans sa voie résiduelle. Une couche native de prédiction multi-jetons (MTP) est incluse pour le décodage spéculatif.
Tencent a publié les poids du modèle, une variante quantifiée en FP8, et des recommandations de déploiement pour vLLM et SGLang. La fiche du modèle précise la licence Apache 2.0.
Principales fonctionnalités de Tencent Hy4 Preview
- Contexte à un million de jetons : La fenêtre de contexte de 1,048,576 jetons est destinée aux grandes bases de code, aux documents techniques volumineux et aux informations réparties sur plusieurs documents. Tencent Cloud indique une entrée maximale de 960,000 jetons et une sortie maximale de 64,000 jetons.
- Ingénierie logicielle à long horizon : Tencent met en avant la compréhension de code, la planification, le débogage et la vérification sur des tâches de développement étendues, y compris la mise en œuvre front-end et l’itération.
- Exécution de tâches agentiques : Le modèle est positionné pour des tâches complexes impliquant planification et utilisation d’outils. Les recettes de service publiées incluent l’analyse des appels d’outils et la configuration du choix automatique des outils.
- Flux de travail bureautiques et analytiques : Tencent décrit la création de documents, feuilles de calcul et présentations, l’analyse de données, les équations et les travaux de modélisation financière.
- Raisonnement scientifique et technique : Tencent rapporte des travaux couvrant la R&D en IA, la dynamique moléculaire, la physique de la matière condensée et les mathématiques fondamentales.
- Options de déploiement ouvertes : Les développeurs peuvent utiliser les poids sous licence Apache 2.0, la variante FP8 et les recettes de déploiement vLLM ou SGLang de Tencent.
Performances de référence de Tencent Hy4 Preview
Tencent rapporte une évaluation interne à l’aveugle dans laquelle 163 experts internes ont évalué les sorties sur 203 tâches d’ingénierie. Hy4 Preview a obtenu une note moyenne de 2.99/4.00, contre 2.92/4.00 pour GLM 5.3 et 2.94/4.00 pour Kimi K3.
| Modèle | Score moyen | Résultat face-à-face de Hy4 Preview |
|---|---|---|
| Tencent Hy4 Preview | 2.99/4.00 | Modèle de référence |
| GLM 5.3 | 2.92/4.00 | 46.8% de victoires, 12.8% d’égalités, 40.4% de défaites |
| Kimi K3 | 2.94/4.00 | 51.2% de victoires, 7.9% d’égalités, 40.9% de défaites |
Il s’agit de résultats issus de l’évaluation interne de Tencent notée par des humains, et non d’un classement public standardisé de benchmarks. Ils ne doivent pas être considérés comme une preuve que Hy4 Preview domine tous les benchmarks de code, de raisonnement ou généralistes. Le texte disponible de la fiche du modèle ne fournit pas de tableau complet, lisible par machine, de scores de benchmarks standardisés ; aucun n’est donc déduit ici.
Comparaison de Hy4 Preview avec GLM 5.3 et Kimi K3
La preuve publiée la plus directement comparable est l’évaluation d’ingénierie de Tencent sur 203 tâches. Hy4 Preview a obtenu 2.99/4.00, légèrement au-dessus de GLM 5.3 à 2.92 et de Kimi K3 à 2.94. La comparaison est utile pour comprendre les résultats des workflows d’ingénierie internes de Tencent, mais ce n’est pas une évaluation indépendante et cela n’établit pas une supériorité sur des charges de travail non liées.
Choisissez Hy4 Preview lorsque le déploiement à poids ouverts, un contexte d’un million de jetons et des flux de travail agentiques orientés vers la productivité sont des exigences centrales. Comparez GLM 5.3 et Kimi K3 sur vos propres tâches représentatives avant de sélectionner un modèle de production ; leurs spécifications d’architecture et de contexte ne sont pas reproduites ici, car elles n’ont pas été vérifiées à partir de sources primaires équivalentes pour cette comparaison.
Limitations connues
Tencent décrit Hy4 Preview comme une itération précoce avec des marges d’amélioration, tant en pré-entraînement qu’en post-entraînement. Les problèmes connus publiés incluent le fait de passer plus de temps que nécessaire à raisonner sur des tâches complexes et une tendance à sur-vérifier son propre travail. Ces comportements peuvent accroître la latence et la longueur des sorties. Les équipes doivent tester le taux de réussite des tâches, la latence, l’exactitude des appels d’outils et l’utilisation totale de jetons selon leurs propres critères d’acceptation avant un déploiement en production.
Cas d’utilisation représentatifs
- Ingénierie logicielle à l’échelle du dépôt : Analyser les fichiers source et l’historique des tickets, planifier des modifications multi-fichiers, déboguer et vérifier les correctifs.
- Flux de développement agentiques : Coordonner des tâches de codage en plusieurs étapes et une exécution assistée par outils, avec autorisation et validation côté application.
- Analyse métier : Consolider l’information à travers des documents et produire des rapports, des feuilles de calcul et des présentations.
- Modélisation financière : Aider avec des équations, l’analyse de données et des flux de travail de modélisation financière, avec validation indépendante des calculs.
- Prototypage de jeux : Générer et affiner itérativement des prototypes jouables avec un flux de travail moteur de jeu.
- Assistance à la recherche scientifique : Explorer la littérature technique, formuler des analyses et soutenir des travaux dans des domaines identifiés par Tencent tels que la dynamique moléculaire et les mathématiques fondamentales.