Tekniske spesifikasjoner for Qwen3.8-Flash-Next
| Spesifikasjon | Qwen3.8-Flash-Next |
|---|---|
| Utvikler | Qwen Team, Alibaba Group |
| Modelltype | Multimodal kausal språkmodell med visuell enkoder; ultra-sparsom MoE |
| Hovedmodellparametere | 125B |
| Aktiverte parametere | 6B per token |
| N-gram-innleiringsparametere | 51B ekstra |
| MTP-parametere | 4B |
| Lag | 48 |
| Hybrid oppmerksomhetsmønster | 12 x [3 Gated DeltaNet-lag + 1 Qwen Sparse Attention-lag] |
| MoE-eksperter | 512 totalt; 10 rutet + 1 delt per token |
| Gated Residual | 4 grener; bottleneck-rang 320 |
| Opprinnelig kontekstvindu | 262,144 tokens |
| Utvidet kontekst | Opptil 1,000,000 tokens med YaRN |
| Modaliteter | Tekst, bilde, videoinngang; tekstutgang |
| Kontroller for tenkning | Tenkning/ikke-tenkning samt kontroller for resonnement-innsats i støttede API-er |
| Distribusjon | Transformers, vLLM, SGLang, TokenSpeed og andre støttede rammeverk |
| Åpne vekter | Ja |
| CometAPI-modell-ID | qwen3.8-flash-next |
Hva er Qwen3.8-Flash-Next?
Qwen3.8-Flash-Next er en kommende multimodal MoE-modell med åpne vekter fra Qwen-teamet i Alibaba Group. Viktigere er at den er posisjonert som en tidlig forhåndsvisning av arkitekturen som er ment å drive den fremtidige Qwen4-modellfamilien, snarere enn bare nok et inkrementelt Qwen3.8-sjekkpunkt.
Qwen bruker denne utgivelsen til å eksponere sin neste generasjons arkitekturelle retning for open-source-økosystemet før den bredere Qwen4-familien kommer. Dette gir utviklere av inferensmotorer, kvantiseringsprosjekter, modellserveringsrammeverk og applikasjonsutviklere en mulighet til å forberede seg på arkitekturendringene på forhånd.
Den hittil offentliggjorte arkitekturen introduserer to viktige komponenter: en GDN-basert hybridarkitektur og Qwen Sparse Attention (QSA). GDN refererer til en gated DeltaNet-stil lineær-oppmerksomhetstilnærming som følger hybrid-oppmerksomhetsretningen tidligere utforsket i Qwen3-Next. QSA presenteres som en ny mekanisme for sparsom oppmerksomhet, selv om den fullstendige tekniske spesifikasjonen ennå ikke er offentlig dokumentert.
Hovedfunksjoner for Qwen3.8-Flash-Next
- Forhåndsvisning av Qwen4-arkitekturen: Qwen3.8-Flash-Next er eksplisitt posisjonert som en tidlig implementering av den arkitekturelle retningen som vil drive den kommende Qwen4-familien.
- Multimodalt MoE-design: Modellen beskrives som en multimodal Mixture-of-Experts-modell, som utvider Qwens effektive strategi for sparsom-modeller mot en ny generasjon arkitektur.
- GDN-hybridarkitektur: Modellen viderefører forskningsretningen for hybrid-oppmerksomhet introdusert med Qwen3-Next, ved å kombinere effektive lineær-oppmerksomhetsmekanismer med konvensjonell oppmerksomhet der presis gjenhenting er viktig. Qwen3-Next demonstrerte at denne tilnærmingen kan vesentlig forbedre effektiviteten ved inferens med lange kontekster.
- Qwen Sparse Attention: QSA er en av de to arkitekturendringene som er offentlig fremhevet for Flash-Next. Dens detaljerte implementering og kvantitative fordeler gjenstår å bli dokumentert av Qwen.
- Orientering mot økosystemet for åpne vekter: Utgivelsen er ment å gi open-source-fellesskapet tidlig tilgang til arkitekturendringene slik at kjøretider for inferens og nedstrøms verktøy kan tilpasse seg før Qwen4 ankommer.
- Koding og agent-ytelse for Qwen3.8-Flash-Next
| Benchmark | Qwen3.8-Flash-Next | Qwen3.8-27B | Qwen3.7-Plus | DeepSeek V4 Flash | Claude Opus 4.6 |
|---|---|---|---|---|---|
| DeepSWE 1.1 | 58.7 | 42.2 | 16.5 | 54.4 | -- |
| SWE-bench Pro | 62.5 | 61.7 | 55.8 | 56.0 | 53.4 |
| SWE-bench Multilingual | 81.0 | 73.8 | 75.8 | -- | 77.5 |
| NL2Repo-Bench | 48.1 | 42.3 | 41.1 | 54.2 | 47.6 |
| CoWorkBench | 73.9 | 70.7 | 65.1 | 45.1 | 68.2 |
| JobBench | 55.7 | 33.4 | 27.6 | 41.3 | 36.6 |
| Toolathlon Verified | 73.5 | 67.1 | 50.6 | 70.3 | -- |
| IFBench | 81.3 | 79.5 | 79.1 | 79.2 | 62.5 |
| GPQA Diamond | 91.7 | 89.2 | 90.3 | 90.8 | 91.3 |
| HLE | 35.9 | 30.8 | 34.7 | 33.8 | 40.0 |
| LiveCodeBench v6 | 91.9 | 90.3 | 89.6 | 90.6 | 88.8 |
Qwen3.8-Flash-Next vs Qwen3.8-Max vs Qwen3.8-27B
| Modell | Posisjonering | Arkitektur / skala | Multimodal | Nåværende status |
|---|---|---|---|---|
| Qwen3.8-Flash-Next | Forhåndsvisning av Qwen4-arkitekturen / effektivitetsorientert åpen modell | Multimodal MoE; fullstendige spesifikasjoner avventer | Ja | Kommende |
| Qwen3.8-Max | Flaggskip, hostet Qwen3.8-modell | Storskala MoE | Ja | Tilgjengelig |
| Qwen3.8-27B | Qwen3.8-modell med åpne vekter | 27B tett modell | Modellspesifikke egenskaper | Tilgjengelig |
Qwen3.8-Max er allerede tilgjengelig gjennom Alibabas skymiljø og er posisjonert for avansert resonnering, visuell forståelse, koding og agentbaserte arbeidslaster. Qwens gjeldende dokumentasjon lister Qwen3.8-Max med et kontekstvindu på 1M token, mens CometAPI allerede eksponerer qwen3.8-max.
Flash-Next bør derfor ses annerledes: dens primære betydning på dette stadiet er arkitektonisk snarere enn benchmark-basert. Den forhåndsviser den tekniske retningen for Qwen4 og gir open-source-økosystemet et tidligere mål for optimalisering av kjøretid og distribusjon.