Qwen3.8-Flash-Next không chỉ đơn thuần là một thành viên nhỏ hơn hoặc nhanh hơn trong họ Qwen3.8. Qwen mô tả đây là một mô hình MoE đa phương thức open-weight và là bản xem trước sớm của kiến trúc sẽ dùng trong Qwen4. Thiết kế của mô hình đồng thời thay đổi cơ chế chú ý, kết nối residual, dung lượng embedding và tối ưu hóa, với mục tiêu nâng cao năng lực trong khi giảm mạnh lượng tính toán cần cho mỗi token.
TL;DR
Qwen3.8-Flash-Next kết hợp một mô hình chính 125B tham số với thêm bảng N-gram embedding 51B, trong khi chỉ kích hoạt 6B tham số mỗi token. Mô hình xử lý gốc 262,144 token và có thể mở rộng lên 1,000,000 token với YaRN. Kiến trúc xoay quanh tỷ lệ phối trộn 3:1 giữa Gated DeltaNet và Qwen Sparse Attention, kết nối Gated Residual bốn nhánh, N-gram Embedding, một bể chuyên gia MoE siêu thưa quy mô lớn, Multi-Token Prediction và huấn luyện dựa trên Muon.
Điểm quan trọng nhất là hiệu quả chứ không phải số lượng tham số thô. Qwen cho biết quá trình huấn luyện mô hình tốn khoảng một phần chín chi phí so với Qwen3.7-Plus, tuy vậy đánh giá khi ra mắt đặt mô hình vượt lên trên các chuẩn Qwen trước đó ở nhiều tác vụ mã hóa, office-agent và đa phương thức. Đây là kết quả do nhà cung cấp báo cáo, nên nên xem như bằng chứng ra mắt hơn là xác thực độc lập.
Với nhà phát triển, trọng số mở có sẵn qua các kênh của Qwen, trong khi phiên bản quản lý sản xuất được gọi là Qwen3.8-Flash trên QwenCloud. CometAPI liệt kê Qwen3.8-Flash-Next với ID mô hình qwen3.8-flash-next, mang lại lộ trình thống nhất bên cạnh các mô hình tuyến đầu khác.
Điểm nổi bật
- 125B tham số mô hình chính + 51B N-gram embedding, với 6B tham số kích hoạt mỗi token.
- Mẫu chú ý lai 3 GDN : 1 QSA được thiết kế để kết hợp bộ nhớ hiệu quả với truy hồi tầm xa chính xác.
- Ngữ cảnh gốc 262,144 token và lên tới 1M token thông qua YaRN.
- Qwen báo cáo tăng tốc kernel prefill tới 7.6x và decode 4.9x ở ngữ cảnh 1M cho QSA.
- Dòng residual được mở rộng thành bốn nhánh có cổng, cải thiện dòng chảy thông tin xuyên tầng và ổn định huấn luyện.
- Bảng ra mắt chính thức cho thấy kết quả mạnh ở SWE-bench Pro, CoWorkBench, JobBench, Toolathlon, AndroidWorld và RealWorldQA, nhưng không quét sạch mọi benchmark.
- Qwen định vị bản phát hành như một bản xem trước kiến trúc, nên tầm quan trọng của nó một phần nằm ở tín hiệu cho Qwen4 hơn là chỉ xếp hạng benchmark hiện tại.
Qwen3.8-Flash-Next là gì?
Qwen3.8-Flash-Next là mô hình ngôn ngữ đa phương thức nhân quả với bộ mã hóa thị giác và xương sống ngôn ngữ Mixture-of-Experts siêu thưa. Thẻ mô hình chính thức mô tả kiến trúc 48 tầng với 512 chuyên gia, 10 chuyên gia được định tuyến cộng 1 chuyên gia chia sẻ, và bố cục ẩn lặp ba tầng Gated DeltaNet sau đó một tầng Qwen Sparse Attention.
Bản phát hành này đóng vai trò tương tự Qwen3-Next: phơi bày thay đổi kiến trúc trước khi được phóng to thành gia đình kế tiếp. Qwen nêu rõ mô hình là bản thử nghiệm xem trước kiến trúc sẽ làm nền cho Qwen4. Điều đó khiến mô hình đặc biệt thú vị với kỹ sư quan tâm đến hiệu quả phục vụ, ngữ cảnh dài và hướng nghiên cứu kiến trúc mô hình mở.
4 thành phần lõi của Qwen3.8-Flash-Next
Mô hình đồng thời thay đổi bốn thành phần lõi: cơ chế chú ý, dòng residual, dung lượng embedding và tối ưu hóa. Thiết kế đồng bộ này quan trọng vì lợi ích hiệu quả ở một thành phần có thể bị mất nếu thành phần khác trở thành nút thắt ở ngữ cảnh dài hoặc quy mô lớn.
Chú ý lai: GDN + Qwen Sparse Attention
Hầu hết các tầng không thực hiện chú ý toàn cục. Thay vào đó, ba trong bốn tầng sử dụng Gated DeltaNet để nén thông tin lịch sử vào một trạng thái kích thước cố định. Tầng thứ tư dùng chú ý toàn cục để truy hồi chính xác, nhưng chú ý toàn cục đó được thiết kế lại thành Qwen Sparse Attention (QSA).
QSA tránh việc tìm kiếm độc lập từng token. Một bộ lập chỉ mục nhẹ trước tiên nhóm chuỗi thành các vi khối, ước lượng khối nào quan trọng, rồi chỉ chú ý tới các vùng được chọn. Theo mô tả của Qwen, điều này giảm cả tính toán chú ý lẫn chi phí lập chỉ mục cần để tìm ngữ cảnh liên quan. Thiết kế đặc biệt tương thích với mạng lai vì chỉ mục thưa được xây dựng độc lập trong mỗi tầng chú ý thay vì dựa vào độ tương tự giữa các tầng chú ý liền kề.
Các con số hiệu quả là đáng kể. Ở ngữ cảnh 1M token, Qwen báo cáo tới 7.6x nhanh hơn khi prefill và 4.9x nhanh hơn khi decode cho kernel chú ý QSA. Trong một thí nghiệm phục vụ tái sử dụng bộ đệm cao với tỉ lệ trúng bộ đệm tiền tố 90%, toàn bộ mô hình đạt 8.6x thông lượng prefill so với Qwen3.7-Plus ở ngữ cảnh 1M.
Gated Residual: Bốn đường thay vì một
Một Transformer thông thường lặp đi lặp lại đọc và ghi vào một dòng residual duy nhất. Qwen3.8-Flash-Next thay vào đó dùng Gated Residual để mở rộng dòng đó thành bốn nhánh song song. Các cổng đọc theo phần tử quyết định lấy bao nhiêu thông tin từ mỗi nhánh, trong khi các cổng ghi ở cấp nhánh quyết định những gì được ghi lại.
Mục đích là bảo toàn đặc trưng hữu ích theo chiều sâu mà không buộc mọi đặc trưng đi qua cùng một kênh pha trộn liên tục. Qwen cũng báo cáo rằng các cổng giúp triệt các ngoại lệ kích hoạt và trạng thái residual có thể lưu ở FP8, giảm lưu lượng bộ nhớ. Ý tưởng then chốt không chỉ là tăng dung lượng residual; mà là định tuyến thông tin có kiểm soát xuyên các tầng.
N-gram Embedding: Thêm dung lượng mà không tăng tính toán tỷ lệ thuận
Mô hình bổ sung 51B tham số N-gram Embedding bên cạnh 125B xương sống chính. Khác với embedding thông thường lập chỉ mục từ một token, N-gram Embedding dùng các mẫu token cục bộ như bigram và trigram. Điều này mang lại cho mô hình một bộ nhớ kiểu tra cứu lớn cho các mẫu cục bộ lặp lại.
Điểm khác thường là vị trí dung lượng này tồn tại. Vì địa chỉ tra cứu có thể biết trước khi cần embedding, bảng có thể được lưu trong bộ nhớ host và nạp đón bất đồng bộ trong khi GPU vẫn tiếp tục tính toán. Nghĩa là 51B tham số bổ sung này không hành xử như 51B tham số phép nhân ma trận dày bổ sung. Kiến trúc thực chất đang mở rộng hai tài nguyên khác nhau: tham số mô hình nặng tính toán và bộ nhớ tra cứu nhẹ tính toán.
Muon và tối ưu hóa huấn luyện
Qwen huấn luyện kiến trúc với trình tối ưu Muon cho các ánh xạ tuyến tính hai chiều như trọng số chính trong attention, GDN và các chuyên gia MoE, trong khi embedding, bộ định tuyến và các tham số Gated Residual hạng thấp tiếp tục dùng AdamW. Các ma trận hợp nhất như QKV và chiếu SwiGLU được tách thành các biến đổi tuyến tính độc lập trước khi trực giao hóa.
Nhóm cũng hiệu chỉnh lại quy luật mở rộng cho kiến trúc mới và báo cáo rằng Batch Size Warmup thông thường là không cần thiết. Tăng dần kích thước batch không cải thiện kết quả cuối cùng mà còn đòi hỏi nhiều bước tối ưu hóa hơn 18.8%. Công thức cuối cùng vì vậy bắt đầu trực tiếp ở kích thước batch mục tiêu.
Ultra-Sparse MoE và Multi-Token Prediction
Thẻ mô hình chính thức liệt kê 512 chuyên gia với 10 chuyên gia được định tuyến và một chuyên gia chia sẻ hoạt động trên mỗi token. Bể chuyên gia lớn giúp tăng dung lượng lưu trữ mà không kích hoạt toàn bộ mô hình cho mọi token. Một mô-đun Multi-Token Prediction (MTP) một tầng được huấn luyện với nhiều bước để cải thiện tỉ lệ chấp nhận suy đoán (speculative decoding) đồng thời hỗ trợ xương sống chính.
Hiệu năng benchmark của Qwen3.8-Flash-Next
Qwen công bố các đánh giá rộng về ngôn ngữ, mã hóa, agent và thị giác-ngôn ngữ. Những con số này hữu ích vì nhiều mô hình so sánh được chạy lại trong khung của Qwen, nhưng chúng vẫn là đánh giá do nhà cung cấp báo cáo khi ra mắt, không phải tái lập benchmark độc lập. Một số dòng cũng dùng khung hoặc bộ chấm điểm đặc thù từng benchmark, vì vậy cách diễn giải an toàn là theo hướng: chúng cho thấy nơi Qwen3.8-Flash-Next mạnh nhất và nơi đối thủ vẫn dẫn trước.
Hiệu năng mã hóa và agent
| Benchmark | Qwen3.8-Flash-Next | Qwen3.8-27B | Qwen3.7-Plus | DeepSeek V4 Flash | Claude Opus 4.6 |
|---|---|---|---|---|---|
| DeepSWE 1.1 | 58.7 | 42.2 | 16.5 | 54.4 | -- |
| SWE-bench Pro | 62.5 | 61.7 | 55.8 | 56.0 | 53.4 |
| SWE-bench Multilingual | 81.0 | 73.8 | 75.8 | -- | 77.5 |
| NL2Repo-Bench | 48.1 | 42.3 | 41.1 | 54.2 | 47.6 |
| CoWorkBench | 73.9 | 70.7 | 65.1 | 45.1 | 68.2 |
| JobBench | 55.7 | 33.4 | 27.6 | 41.3 | 36.6 |
| Toolathlon Verified | 73.5 | 67.1 | 50.6 | 70.3 | -- |
| IFBench | 81.3 | 79.5 | 79.1 | 79.2 | 62.5 |
| GPQA Diamond | 91.7 | 89.2 | 90.3 | 90.8 | 91.3 |
| HLE | 35.9 | 30.8 | 34.7 | 33.8 | 40.0 |
| LiveCodeBench v6 | 91.9 | 90.3 | 89.6 | 90.6 | 88.8 |
Câu chuyện về mã hóa là mạnh mẽ nhưng có sắc thái. Qwen3.8-Flash-Next dẫn đầu tập so sánh được liệt kê trên SWE-bench Pro, SWE-bench Multilingual, CoWorkBench, JobBench, Toolathlon Verified và LiveCodeBench v6. Tuy nhiên, DeepSeek V4 Flash dẫn trước ở NL2Repo-Bench, trong khi Claude Opus 4.6 dẫn HLE. Điều này khiến hiệu quả trở thành tiêu đề đáng tin cậy hơn là sự thống trị benchmark toàn diện.
Những cải thiện đáng chú ý nhất so với các chuẩn Qwen trước xuất hiện trong công việc dài chuỗi. CoWorkBench tăng từ 65.1 trên Qwen3.7-Plus lên 73.9, trong khi JobBench tăng từ 27.6 lên 55.7. Vì CoWorkBench là benchmark nội bộ của Qwen, các mức tăng này cần được tái lập độc lập, nhưng chúng phù hợp với trọng tâm kiến trúc là quy trình agent và văn phòng hiệu quả về chi phí.
Hiệu năng đa phương thức
| Benchmark | Qwen3.8-Flash-Next | Qwen3.8-27B | Qwen3.7-Plus | Claude Opus 4.6 |
|---|---|---|---|---|
| ClawEval-MM (Pass@3 / Avg) | 64.4 / 60.4 | 57.4 / 56.9 | 57.4 / 60.1 | 52.5 / 54.7 |
| RecreationBench | 49.9 | 47.1 | 30.2 | -- |
| AndroidWorld | 84.5 | 81.9 | 81.0 | 62.0 |
| OSWorld 2.0 (Binary / Partial) | 19.4 / 52.3 | 19.4 / 48.0 | 2.8 / 21.5 | -- |
| Vision2Web | 64.0 | 62.9 | 42.1 | -- |
| ERQA | 72.3 | 65.5 | 69.8 | 40.8 |
| LVBench | 76.6 | 72.4 | 76.2 | 63.0 |
| RealWorldQA | 88.5 | 85.9 | 86.9 | 73.9 |
| MathVision (không / có CI) | 90.6 / 95.7 | 90.0 / 94.6 | 90.3 / 88.7 | 65.5 / -- |
| CharXiv RQ (không / có CI) | 84.6 / 90.6 | 83.7 / 90.2 | 85.8 / 85.9 | 66.0 / -- |
Nguồn dữ liệu: đánh giá ra mắt chính thức của Qwen**.
Các kết quả đa phương thức củng cố quan điểm rằng đây không chỉ là một mô hình Flash tập trung vào mã hóa. Qwen3.8-Flash-Next đạt 84.5 trên AndroidWorld, 64.0 trên Vision2Web, 76.6 trên LVBench và 88.5 trên RealWorldQA trong bảng của Qwen. Thẻ mô hình cũng cung cấp ví dụ đầu vào ảnh và video, bao gồm khuyến nghị lấy mẫu tốc độ khung hình cao hơn cho khối lượng công việc video kéo dài hàng giờ. khối lượng công việc video.
Qwen3.8-Flash-Next so với các mô hình khác
So sánh hữu ích nên tách ba câu hỏi: lượng tính toán được kích hoạt trên mỗi token là bao nhiêu, độ rộng về phương thức và ngữ cảnh của mô hình ra sao, và hiệu năng trên các quy trình đại diện như thế nào. Tổng số tham số thô không thể tự trả lời những câu hỏi đó.
Qwen3.8-Flash-Next vs Qwen3.8-27B vs Qwen3.7-Plus
| Khía cạnh | Qwen3.8-Flash-Next | Qwen3.8-27B | Qwen3.7-Plus |
|---|---|---|---|
| Tham số mô hình | 125B + 51B N-gram embedding | 27B | 397B |
| Tham số kích hoạt | 6B | 27B | 17B |
| Ngữ cảnh gốc | 262K | 262K trong thiết lập so sánh Qwen | Mô hình ngữ cảnh dài thế hệ trước |
| DeepSWE 1.1 | 58.7 | 42.2 | 16.5 |
| CoWorkBench | 73.9 | 70.7 | 65.1 |
| JobBench | 55.7 | 33.4 | 27.6 |
| AndroidWorld | 84.5 | 81.9 | 81.0 |
Kết quả then chốt là năng lực trên mỗi tham số kích hoạt. Qwen3.8-Flash-Next kích hoạt 6B tham số mỗi token so với 27B của Qwen3.8-27B và 17B của Qwen3.7-Plus, nhưng lại dẫn trước ở các điểm số DeepSWE, CoWorkBench, JobBench và AndroidWorld được liệt kê. Đánh đổi nằm ở dấu chân bộ nhớ: tính thưa giảm tính toán kích hoạt, không phải lượng dung lượng mô hình cuối cùng phải lưu đâu đó.
Qwen3.8-Flash-Next vs DeepSeek V4 Flash vs Claude Opus 4.6
| Khía cạnh | Qwen3.8-Flash-Next | DeepSeek V4 Flash | Claude Opus 4.6 |
|---|---|---|---|
| Trọng số | Open-weight | Open-weight | Đóng |
| Hồ sơ tham số báo cáo | 125B chính + 51B N-gram; 6B kích hoạt | 284B tổng; 13B kích hoạt | Không công bố công khai |
| Điểm nhấn hiệu quả chính | QSA + GDN + MoE kích hoạt 6B + bộ nhớ tra cứu | MoE thưa thông lượng cao | Ngăn xếp agent và suy luận tuyến đầu có quản lý |
| Đa phương thức gốc | Văn bản, ảnh, video -> văn bản | Dòng Flash thiên về văn bản; tuyến thị giác có sẵn riêng trên CometAPI | Văn bản + thị giác/tệp qua API được lưu trữ |
| SWE-bench Pro* | 62.5 | 56.0 | 53.4 |
| CoWorkBench* | 73.9 | 45.1 | 68.2 |
| NL2Repo-Bench* | 48.1 | 54.2 | 47.6 |
| HLE* | 35.9 | 33.8 | 40.0 |
DeepSeek V4 Flash vẫn mạnh hơn trên NL2Repo-Bench trong so sánh của Qwen, điều này quan trọng cho sinh mã ở cấp kho. Claude Opus 4.6 mạnh hơn trên HLE trong cùng bảng và đại diện cho mô hình đóng được quản lý chứ không phải đích triển khai mở. Qwen3.8-Flash-Next khác biệt nhất nhờ kết hợp trọng số mở, đa phương thức gốc, kỹ thuật ngữ cảnh dài và ngân sách tham số kích hoạt rất nhỏ.
Qwen3.8-Flash-Next vs Qwen3.8-Max
| Khía cạnh | Qwen3.8-Flash-Next | Qwen3.8-Max |
|---|---|---|
| Vai trò | Bản xem trước kiến trúc ưu tiên hiệu quả, mở | Flagship Qwen3.8 |
| Quy mô chính/tổng | 125B chính + 51B N-gram; 6B kích hoạt | 2.4T tổng; khoảng 95B kích hoạt trên trang mô hình CometAPI |
| Nhấn mạnh kiến trúc | QSA, GDN, Gated Residual, N-gram Embedding, Muon | Năng lực tuyến đầu tối đa ở quy mô lớn hơn nhiều |
| Phù hợp nhất | Agent khối lượng lớn, trợ lý mã hóa, tự động hóa đa phương thức, tự lưu trữ | Suy luận khó nhất, agent doanh nghiệp lớn, tác vụ ưu tiên năng lực |
| Ngữ cảnh | 262K gốc; lên tới 1M với YaRN | Ngữ cảnh lớp 1M trên các tuyến Qwen3.8 flagship hiện tại |
Thông số của Qwen3.8-Max dựa trên danh sách mô hình hiện có trên CometAPI.
Sự khác biệt đơn giản: Qwen3.8-Max là flagship ưu tiên năng lực, còn Qwen3.8-Flash-Next là thử nghiệm về kiến trúc và hiệu quả. Khi chọn giữa hai mô hình, nhà phát triển nên hỏi nút thắt là năng lực tuyệt đối hay chi phí vận hành nhiều tác vụ dài ngữ cảnh, dùng công cụ ở quy mô lớn.
Giá và khả dụng của Qwen3.8-Flash-Next
Trọng số mở của Qwen3.8-Flash-Next được công bố qua Hugging Face và ModelScope. Với phục vụ được quản lý, Qwen cho biết phiên bản sản xuất có tên Qwen3.8-Flash trên QwenCloud, với ngữ cảnh 1M bật mặc định và công cụ tích hợp chính thức.
Qwen liệt kê giá phục vụ sản xuất là $0.16 mỗi triệu token đầu vào và $0.47 mỗi triệu token đầu ra. Mức giá này áp dụng cho mô hình sản xuất Qwen3.8-Flash trên QwenCloud, không phải tự lưu trữ trọng số mở.
| Tuyến | Đầu vào | Đầu ra |
|---|---|---|
| Mô hình sản xuất QwenCloud (Qwen3.8-Flash) | $0.16 / 1M token | $0.47 / 1M token |
| Tự lưu trữ trọng số mở | Phụ thuộc hạ tầng | Phụ thuộc hạ tầng |
| Tuyến CometAPI | Kiểm tra trang mô hình trực tiếp | Kiểm tra trang mô hình trực tiếp |
Giá QwenCloud lấy từ bài ra mắt chính thức của Qwen; việc tính phí trên CometAPI nên được kiểm tra trên trang mô hình trực tiếp.
Với người dùng CometAPI, mô hình Qwen3.8-Flash-Next chuyên biệt định danh tuyến là qwen3.8-flash-next. Vì định tuyến, sự khả dụng thượng nguồn và tính phí có thể thay đổi độc lập với bản phát hành trọng số mở, tích hợp sản xuất nên đọc danh mục CometAPI trực tiếp trước khi mã hóa cứng giả định về giá.
Khuyến nghị CometAPI
Qwen3.8-Flash-Next dự kiến sớm khả dụng qua CometAPI. CometAPI cung cấp một điểm cuối tương thích OpenAI duy nhất (https://api.cometapi.com/v1) tập hợp 500+ mô hình từ các nhà cung cấp hàng đầu, bao gồm dòng Qwen. Cách tiếp cận này giảm khóa chặt nhà cung cấp, đơn giản hóa thử nghiệm với Qwen3.8-Flash (khi có mặt qua nền tảng hoặc các tuyến liên quan của Qwen), và tinh gọn triển khai sản xuất có thể trộn nhiều mô hình cho các tác vụ khác nhau (ví dụ, Qwen cho agent mã hóa tiết kiệm chi phí + mô hình khác cho suy luận chuyên sâu). Tài liệu và hướng dẫn khởi động nhanh có tại apidoc.cometapi.com và trang chính CometAPI.
Dù bạn tự lưu trữ trọng số mở, dùng QwenCloud, hay định tuyến qua một nền tảng hợp nhất như CometAPI, Qwen3.8-Flash-Next hạ thấp rào cản để xây dựng agent đa phương thức hiệu năng cao với ngữ cảnh dài.
Qwen3.8-Flash-Next có thể làm gì?
1. Agent mã hóa khối lượng lớn
Ngân sách 6B tham số kích hoạt kết hợp với điểm SWE-bench Pro 62.5 trong đánh giá của Qwen khiến Qwen3.8-Flash-Next đặc biệt đáng chú ý cho hệ thống mã hóa chạy nhiều phiên song song. Ví dụ gồm rà soát mã, phân loại issue, điều hướng kho, sinh kiểm thử và vá lỗi lặp lại nơi thông lượng quan trọng gần như trí tuệ mỗi lần chạy.
2. Công việc văn phòng và tri thức dài chuỗi
CoWorkBench và JobBench là trung tâm định vị của mô hình. Kiến trúc được thiết kế cho vòng lặp agent lặp lại đọc ngữ cảnh, gọi công cụ, cập nhật trạng thái và tiếp tục làm việc thay vì trả lời một lần. Điều này tự nhiên khớp với quy trình tài liệu, phân tích bảng tính, lắp ráp báo cáo, tổng hợp nghiên cứu và tự động hóa quy trình nghiệp vụ.
3. Tác nhân đa phương thức trên máy tính và di động
Đầu vào ảnh và video, hiệu năng AndroidWorld, đánh giá OSWorld và kết quả Vision2Web khiến mô hình phù hợp với agent GUI. Nó có thể đóng vai trò lớp suy luận cho hệ thống diễn giải ảnh chụp màn hình, vận hành giao diện di động, tái tạo bố cục ứng dụng hoặc kết hợp trạng thái thị giác với các lệnh gọi công cụ.
4. Video dài và suy luận thị giác
Thẻ mô hình chính thức bao gồm ví dụ đầu vào video và hướng dẫn tiền xử lý video quy mô hàng giờ. Điều đó khiến mô hình hữu ích cho hỏi-đáp video, tìm kiếm video dài, trích xuất sự kiện thị giác và quy trình kết hợp hiểu video với công cụ hạ nguồn.
5. Quy trình nghiên cứu và kho mã quy mô triệu token
Mô hình mở có ngữ cảnh gốc 262,144 token và có thể mở rộng đến 1,000,000 với YaRN. Khác biệt này quan trọng: 1M là phần mở rộng chứ không phải ngữ cảnh gốc của bản mở. Với kho mã lớn hoặc corpora nghiên cứu, QSA được thiết kế để làm cho chi phí truy hồi của các ngữ cảnh dài đó thực tiễn hơn so với chú ý toàn cục dày đặc.
Nhà phát triển có thể chạy Qwen3.8-Flash-Next như thế nào?
Nhà phát triển có thể tải trọng số mở từ Hugging Face và chạy mô hình với Transformers, vLLM, SGLang hoặc TokenSpeed. Qwen cung cấp ví dụ Chat Completions tương thích OpenAI cho cả đầu vào văn bản và đa phương thức.
Ví dụ, thẻ mô hình chính thức minh họa phục vụ Qwen/Qwen3.8-Flash-Next bằng vLLM và gọi qua /v1/chat/completions. Đầu vào ảnh và video cũng được minh họa qua giao diện tương thích OpenAI.
Qwen3.8-Flash-Next hoạt động ở thinking mode theo mặc định. Nhà phát triển có thể điều khiển hành vi thinking qua enable_thinking, preserve_thinking và reasoning_effort; các mức effort được ghi nhận là xhigh, medium và low.
Giới hạn của Qwen3.8-Flash-Next là gì?
Giới hạn thực tế lớn nhất là chi phí phần cứng. Dù chỉ 6B tham số ngôn ngữ được kích hoạt, checkpoint chứa 125B tham số ngôn ngữ cộng thành phần n-gram embedding 51B và 4B tham số MTP. Kho hiện tại khoảng 360 GB, nên triển khai cục bộ vẫn là một nhiệm vụ nặng hạ tầng.
Giới hạn thứ hai là 262K là độ dài ngữ cảnh gốc, không phải 1M. Mô hình có thể mở rộng lên 1M token, nhưng một tuyến CometAPI hay trang mô hình không nên đơn giản ghi “1M ngữ cảnh gốc”. Cách diễn đạt đúng là 262K ngữ cảnh gốc, có thể mở rộng lên 1M.
Cuối cùng, hiệu năng benchmark không đồng đều. Qwen3.8-Flash-Next rất cạnh tranh ở tác vụ mã hóa và agent nhưng không dẫn đầu mọi benchmark. Ví dụ, Claude Opus 4.6 đạt 40.0 trên HLE so với 35.9 của Flash-Next, trong khi DeepSeek-V4-Flash-0731 dẫn đầu các mô hình liệt kê trên NL2Repo-Bench.
Qwen3.8-Flash-Next: tín hiệu cho Qwen4
Ý nghĩa rộng hơn của bản phát hành này là vai trò như bản xem trước sớm của kiến trúc dự kiến làm nền cho Qwen4. Qwen3.8-Flash-Next kết hợp Qwen Sparse Attention, Gated DeltaNet, kết nối Gated Residual bốn nhánh, N-gram Embedding, bể chuyên gia MoE siêu thưa và Multi-Token Prediction. Những lựa chọn này cho thấy Qwen đang khám phá cách tăng dung lượng, kéo dài ngữ cảnh và tăng cường đa phương thức và hiệu năng agent mà không tăng tính toán kích hoạt theo cùng tốc độ.
Kết luận
Qwen3.8-Flash-Next quan trọng vì nó thay đổi hình dạng của bài toán hiệu quả. Thay vì coi mọi tham số là tương đương, mô hình kết hợp một đường MoE kích hoạt tương đối nhỏ với một bộ nhớ kiểu tra cứu rất lớn và cơ chế truy hồi thưa được thiết kế cho ngữ cảnh dài. Điều đó mang lại cho Qwen nhiều đòn bẩy độc lập để tăng dung lượng mà không tăng phép nhân ma trận trên mỗi token theo cùng tỷ lệ.
Với nhà phát triển, điều đó khiến mô hình trở thành lựa chọn hấp dẫn cho trợ lý mã hóa khối lượng lớn, agent ngữ cảnh dài, tự động hóa đa phương thức và thử nghiệm tự lưu trữ. Với lộ trình rộng hơn của Qwen, điều này còn quan trọng hơn: Qwen công khai dùng bản phát hành này để phơi bày hướng kiến trúc mà họ dự định tinh chỉnh hướng tới Qwen4.