Qwen3.8-Flash-Next техникалық сипаттамалары
| Сипаттама | Qwen3.8-Flash-Next |
|---|---|
| Әзірлеуші | Qwen Team, Alibaba Group |
| Модель түрі | Көру энкодері бар көпмодальды каузалды тіл моделі; аса сиретілген MoE |
| Негізгі модель параметрлері | 125B |
| Белсендірілген параметрлер | Әр токенге 6B |
| N-gram ендіру параметрлері | 51B қосымша |
| MTP параметрлері | 4B |
| Қабаттар | 48 |
| Гибридті назар үлгісі | 12 x [3 Gated DeltaNet қабаты + 1 Qwen Sparse Attention қабаты] |
| MoE сарапшылары | барлығы 512; әр токенге 10 бағытталатын + 1 ортақ |
| Gated Residual | 4 тармақ; bottleneck рангі 320 |
| Түпнұсқалық контекст терезесі | 262,144 токен |
| Кеңейтілген контекст | YaRN көмегімен 1,000,000 токенге дейін |
| Модальдар | Мәтін, кескін, видео енгізу; мәтін шығару |
| Ойлау басқармалары | Қолдау көрсетілетін API-ларда ойлау/ойламау және пайымдау күш-жігерін басқару |
| Орналастыру | Transformers, vLLM, SGLang, TokenSpeed және басқа қолдау көрсетілетін фреймворктер |
| Ашық салмақтар | Иә |
| CometAPI модель идентификаторы | qwen3.8-flash-next |
Qwen3.8-Flash-Next деген не?
Qwen3.8-Flash-Next — Alibaba-ның Qwen командасынан жақында шығатын ашық салмақты көпмодальды MoE моделі. Ең маңыздысы, бұл жай ғана тағы бір Qwen3.8 инкременттік бақылау нүктесі емес, керісінше болашақ Qwen4 модельдер отбасына қуат беруге арналған архитектураның ерте алдын ала нұсқасы ретінде позицияланады.
Qwen бұл шығарылым арқылы өзінің келесі буын архитектуралық бағытын кең ауқымды Qwen4 отбасынан бұрын ашық бастапқы код қауымдастығына ұсынуда. Бұл шығару инференс қозғалтқыштары әзірлеушілеріне, кванттау жобаларына, модель қызмет көрсету фреймворктеріне және қолданба әзірлеушілеріне алдағы архитектуралық өзгерістерге алдын ала дайындалуға мүмкіндік береді.
Қазіргі уақытта ашылған архитектура екі маңызды компонентті енгізеді: GDN-негізіндегі гибридті архитектура және Qwen Sparse Attention (QSA). GDN — Qwen3-Next-та бұрын зерттелген гибридті назар бағытын жалғастыратын, DeltaNet-стиліндегі қақпалы сызықтық назар тәсілі. QSA жаңа сиретілген назар механизмі ретінде ұсынылады, алайда оның толық техникалық сипаттамасы әлі көпшілікке құжатталмаған.
Qwen3.8-Flash-Next-тің негізгі мүмкіндіктері
- Qwen4 архитектурасының алдын ала қаралымы: Qwen3.8-Flash-Next алдағы Qwen4 отбасын қуаттандыратын архитектуралық бағыттың ерте іске асырылуы ретінде ашық түрде позицияланған.
- Көпмодальды MoE дизайны: Модель Qwen-нің тиімді сирек модель стратегиясын жаңа буын архитектурасына кеңейтетін көпмодальды сарапшылар қоспасы (MoE) ретінде сипатталады.
- GDN гибридті архитектурасы: Модель Qwen3-Next-пен таныстырылған гибридті назар зерттеу бағытын жалғастырады, мұнда тиімді сызықтық назар механизмдері дәл алынатын жерлерде дәстүрлі назармен ұштасады. Qwen3-Next бұл тәсіл ұзақ контекстегі инференс тиімділігін едәуір арттыра алатынын көрсетті.
- Qwen Sparse Attention: QSA — Flash-Next үшін жария түрде ерекшеленген екі архитектуралық өзгерістің бірі. Оның егжей-тегжейлі іске асырылуы мен сандық артықшылықтары Qwen тарапынан әлі құжатталуы тиіс.
- Ашық салмақ экожүйесіне бағдар: Бұл шығарылым ашық бастапқы код қауымдастығына архитектуралық өзгерістерге ерте қол жеткізуді қамтамасыз етеді, осылайша Qwen4 келгенге дейін инференс рантаймдары мен қосымша құралдар бейімделе алады.
- Qwen3.8-Flash-Next үшін кодтау және агент өнімділігі
| Бенчмарк | Qwen3.8-Flash-Next | Qwen3.8-27B | Qwen3.7-Plus | DeepSeek V4 Flash | Claude Opus 4.6 |
|---|---|---|---|---|---|
| DeepSWE 1.1 | 58.7 | 42.2 | 16.5 | 54.4 | -- |
| SWE-bench Pro | 62.5 | 61.7 | 55.8 | 56.0 | 53.4 |
| SWE-bench Multilingual | 81.0 | 73.8 | 75.8 | -- | 77.5 |
| NL2Repo-Bench | 48.1 | 42.3 | 41.1 | 54.2 | 47.6 |
| CoWorkBench | 73.9 | 70.7 | 65.1 | 45.1 | 68.2 |
| JobBench | 55.7 | 33.4 | 27.6 | 41.3 | 36.6 |
| Toolathlon Verified | 73.5 | 67.1 | 50.6 | 70.3 | -- |
| IFBench | 81.3 | 79.5 | 79.1 | 79.2 | 62.5 |
| GPQA Diamond | 91.7 | 89.2 | 90.3 | 90.8 | 91.3 |
| HLE | 35.9 | 30.8 | 34.7 | 33.8 | 40.0 |
| LiveCodeBench v6 | 91.9 | 90.3 | 89.6 | 90.6 | 88.8 |
Qwen3.8-Flash-Next vs Qwen3.8-Max vs Qwen3.8-27B
| Модель | Позициялау | Архитектура / Ауқым | Көпмодальды | Ағымдағы мәртебе |
|---|---|---|---|---|
| Qwen3.8-Flash-Next | Qwen4 архитектурасының алдын ала қаралымы / тиімділікке бағытталған ашық модель | Көпмодальды MoE; толық сипаттамалар күтуде | Иә | Жақында |
| Qwen3.8-Max | Жетекші хостингтелген Qwen3.8 моделі | Ірі ауқымды MoE | Иә | Қол жетімді |
| Qwen3.8-27B | Ашық салмақты Qwen3.8 моделі | 27B тығыз модель | Модельге тән мүмкіндіктер | Қол жетімді |
Qwen3.8-Max қазірдің өзінде Alibaba бұлт экожүйесі арқылы қол жетімді және озық пайымдау, көруді түсіну, кодтау және агенттік жүктемелер үшін позицияланған. Qwen-нің ағымдағы құжаттамасында Qwen3.8-Max үшін 1M-токендік контекст терезесі көрсетілген, ал CometAPI қазірдің өзінде qwen3.8-max ұсынады.
Сондықтан Flash-Next-ке басқаша қарау керек: бұл кезеңде оның негізгі мағынасы бенчмаркке емес, архитектураға қатысты. Ол Qwen4-тің техникалық бағытын алдын ала көрсетеді және ашық бастапқы код экожүйесіне рантайм мен орналастыруды оңтайландыру үшін ертерек мақсат береді.