Tekniske spesifikasjoner for Tencent Hy4 Preview
| Spesifikasjon | Verifisert informasjon |
|---|---|
| Modell-ID | hy4-preview |
| Leverandør | Tencent Hunyuan |
| Utgivelsesdato | August 28, 2026 |
| Arkitektur | Mixture of Experts (MoE) |
| Totale backbone-parametere | 770B |
| Aktiverte backbone-parametere | 49B per token |
| Lag | 78 |
| Skjult dimensjon | 6,144 |
| Attention | Gated DeepSeek Sparse Attention (Gated DSA) |
| Oppmerksomhetshoder | 64 |
| Rutevalgte eksperter | 256 |
| Delte eksperter | 1 |
| Aktiverte rutevalgte eksperter | 8 per token |
| Kontekstvindu | 1,048,576 tokens (1M) |
| Maksimal API-inndata | 960,000 tokens |
| Maksimal API-utdata | 64,000 tokens |
| Vokabularstørrelse | 120,832 |
| Modelltype | Instruct |
| Kvantisert variant | Hy4-preview-FP8 |
| Lisens | Apache 2.0 |
Tallene for arkitektur ovenfor beskriver backbone; Tencents modellkort beskriver et ekstra, innebygd MTP-lag for spekulativ dekoding. API-ets 1M-kontekstvindu er ikke det samme som 960K-grensen for maksimal inndata.
Hva er Tencent Hy4 Preview?
Tencent Hy4 Preview er en stor språkmodell med åpne vekter utviklet av Tencents Hunyuan-team. Utgitt 28. august 2026, er den en tidlig versjon av Hy4-generasjonen og er optimalisert for produktivitetsarbeid i praksis: programvareutvikling, agentbasert oppgaveutførelse, kontor- og finansanalyse, spillutvikling og vitenskapelig forskning.
Hy4 Preview bruker en Mixture-of-Experts-arkitektur med 770 milliarder totale backbone-parametere og 49 milliarder aktiverte parametere per token. Oppmerksomhetsstakken bruker Gated DeepSeek Sparse Attention (Gated DSA) med IndexCache for gjenbruk av sparsomindekser på tvers av lag. Modellen bruker også identity Hyper-Connections (iHC) i sin residualbane. Et innebygd multi-token-prediction (MTP)-lag er inkludert for spekulativ dekoding.
Tencent publiserte modellvekter, en FP8-kvantisert variant og veiledning for utrulling med vLLM og SGLang. Modellkortet angir Apache 2.0-lisensen.
Hovedfunksjoner for Tencent Hy4 Preview
- Million-token-kontekst: Kontekstvinduet på 1,048,576 tokens er ment for store kodebaser, omfattende teknisk materiale og informasjon fordelt på flere dokumenter. Tencent Cloud oppgir en maksimal inndata på 960,000 tokens og maksimal utdata på 64,000 tokens.
- Langsiktig programvareutvikling: Tencent fremhever kodeforståelse, planlegging, feilsøking og verifisering på tvers av langvarige utviklingsoppgaver, inkludert front-end-implementering og iterasjon.
- Agentbasert oppgaveutførelse: Modellen er posisjonert for komplekse oppgaver som involverer planlegging og verktøybruk. De publiserte serveringsoppskriftene inkluderer parsing av verktøykall og automatisk konfigurasjon av verktøyvalg.
- Kontor- og analytiske arbeidsflyter: Tencent beskriver opprettelse av dokumenter, regneark og presentasjoner, dataanalyse, likninger og arbeid med finansmodeller.
- Vitenskapelig og teknisk resonnering: Tencent rapporterer arbeid innen KI-forskning og -utvikling, molekyldynamikk, kondenserte materiens fysikk og grunnleggende matematikk.
- Åpne distribusjonsalternativer: Utviklere kan bruke vektene lisensiert under Apache 2.0, FP8-varianten og Tencents utrullingsoppskrifter for vLLM eller SGLang.
Benchmark-ytelse for Tencent Hy4 Preview
Tencent rapporterer en blind intern evaluering der 163 interne eksperter vurderte resultater på 203 ingeniøroppgaver. Hy4 Preview fikk en gjennomsnittsscore på 2.99/4.00, sammenlignet med 2.92/4.00 for GLM 5.3 og 2.94/4.00 for Kimi K3.
| Modell | Gjennomsnittsscore | Hy4 Preview innbyrdes resultat |
|---|---|---|
| Tencent Hy4 Preview | 2.99/4.00 | Referansemodell |
| GLM 5.3 | 2.92/4.00 | 46.8% seire, 12.8% uavgjort, 40.4% tap |
| Kimi K3 | 2.94/4.00 | 51.2% seire, 7.9% uavgjort, 40.9% tap |
Dette er resultater fra Tencents interne, menneskevurderte ingeniørevaluering, ikke en standardisert offentlig benchmark-ledertavle. De bør ikke behandles som bevis for at Hy4 Preview leder på alle kode-, resonnerings- eller generelle benchmarker. Den tilgjengelige teksten i modellkortet gir ikke en fullstendig maskinlesbar tabell over standardiserte benchmark-poeng, så ingen er utledet her.
Hvordan Hy4 Preview sammenlignes med GLM 5.3 og Kimi K3
Det mest direkte sammenlignbare publiserte beviset er Tencents ingeniørevaluering med 203 oppgaver. Hy4 Preview scoret 2.99/4.00, litt over GLM 5.3 med 2.92 og Kimi K3 med 2.94. Sammenligningen er nyttig for å forstå Tencents interne resultater i ingeniørarbeidsflyter, men den er ikke en uavhengig evaluering og etablerer ikke overlegenhet på ikke-relaterte arbeidsbelastninger.
Velg Hy4 Preview når distribusjon med åpne vekter, et kontekstvindu på en million tokens og produktivitetsorienterte agent-arbeidsflyter er sentrale krav. Sammenlign GLM 5.3 og Kimi K3 på dine egne representative oppgaver før du velger en produksjonsmodell; deres arkitektur- og kontekstspecificasjoner er ikke gjengitt her fordi de ikke ble verifisert fra tilsvarende primærkilder for denne sammenligningen.
Kjente begrensninger
Tencent beskriver Hy4 Preview som en tidlig iterasjon med rom for forbedring i både pre-trening og post-trening. De publiserte kjente problemene inkluderer at modellen bruker lengre tid enn nødvendig på å resonnere gjennom komplekse oppgaver og en tendens til å oververifisere sitt eget arbeid. Denne atferden kan øke latens og utdata-lengde. Team bør teste oppgavesuksess, latens, korrekthet i verktøykall og totalt token-forbruk opp mot egne akseptansekriterier før produksjonsutrulling.
Representative bruksområder
- Programvareutvikling i repository-skala: Analyser kildefiler og issue-historikk, planlegg endringer på tvers av flere filer, feilsøk og verifiser patcher.
- Agentbaserte utviklingsarbeidsflyter: Koordiner flertrinns koding og verktøystøttet utførelse, med autorisering og validering på applikasjonssiden.
- Forretningsanalyse: Konsolider informasjon på tvers av dokumenter og bygg rapporter, regneark og presentasjoner.
- Finansmodellering: Bistå med likninger, dataanalyse og arbeidsflyter for finansmodeller, med uavhengig validering av beregninger.
- Spillprototyping: Generer og iterativt foredle spillbare prototyper med en arbeidsflyt for spillmotor.
- Bistand til vitenskapelig forskning: Utforsk teknisk litteratur, formuler analyser og støtt arbeid på områder Tencent identifiserer, som molekyldynamikk og grunnleggende matematikk.