كيفية نشر Qwen 3.8 Max محليًا: دليل العتاد وvLLM وSGLang والتكميم

بات تشغيل Qwen3.8-Max محليًا ممكنًا الآن، لكن عبارة "Qwen 3.8 Max محليًا" تحتاج إلى توضيح مهم. منتج Max المُستضاف من Alibaba ونقطة التحقق القابلة للتنزيل مرتبطان ارتباطًا وثيقًا، ولكنهما ليسا منتجًا واحدًا متطابقًا.

أطلقت Qwen خدمة Max المُستضافة لأول مرة في أوائل أغسطس 2026، وأصدرت Qwen3.8-2.4T-A95B كأوزان مفتوحة في 12 أغسطس 2026. تلك نقطة التحقق هي النموذج الذي تقوم فعليًا بنشره على بنيتك التحتية الخاصة.

هذا ليس دليل Ollama عاديًا على حاسوب ألعاب. نقطة التحقق غير المُكَمَّمة هي نموذج مزيج خبراء (MoE) بعدد 2.4 تريليون معلمة، وتُقدِّر وصفة vLLM الحالية حجم أوزان BF16 له بـ 4.45 TiB. وحتى المتغيرات الإنتاجية من الفاصلة العائمة ذات 4-بت لا تزال تشغل تقريبًا 1.3–1.5 TiB من الأوزان.

الإجابة السريعة: الاستضافة الذاتية الكاملة لفئة Qwen 3.8 Max هي نشر على مستوى مركز بيانات. نقطة بداية إنتاجية عملية هي نقطة تحقق FP4 على 8× B300 أو 8× MI355X؛ تتطلب نشرات H200 عددًا أكبر من وحدات GPU. وللمحطات العمل العادية، استخدم Qwen3.8-27B بدلًا من ذلك.

Qwen 3.8 Max مقابل النموذج المفتوح الذي تنشره فعليًا

تُوصَف نقطة التحقق القابلة للتنزيل Qwen3.8-2.4T-A95B رسميًا بأنها نموذج لغة سببي بعدد 2.4T من المعلمات مع تفعيل يقارب 95B معلمة لكل رمز. تضيف خدمة Max المُستضافة قدرات على طبقة المنتج غير موجودة في نقطة التحقق المفتوحة الحالية.

يكشف المنتج المُستضاف عن إدخال نص وصورة وفيديو مع سياق من 1,000,000 رمز. بالمقابل، نقطة التحقق المفتوحة تدعم النص فقط وسياقها الأصلي 262,144 رمزًا. يهم هذا الفرق إذا كان تطبيقك يعتمد على الإدخال متعدد الوسائط أو الأدوات المدمجة المُدارة.

بنية Qwen 3.8 والمواصفات

تغطي CometAPI بالفعل خلفية النموذج في What is Qwen3.8 Max، لذا يُركّز هذا الدليل الخاص بالنشر على التفاصيل المؤثرة في الذاكرة والتوازي والتقديم.

البنية الهجينة الرسمية لـ Qwen المستخدمة في دليل نشر SGLang لـ Qwen3.8.

لا تُفسِّر "95B من المعلمات النشطة" على أنها بصمة ذاكرة نموذج 95B. يقلل التفعيل المتناثر من الحوسبة لكل رمز، لكن نظام التقديم لا يزال بحاجة إلى الوصول إلى مجموعة أوزان الخبراء كاملة.

لقطة معيارية لـ Qwen 3.8 Max

بما أن نظرة Qwen3.8 Max على CometAPI تغطي المعايير بالتفصيل، يستخدم هذا المقال فقط مجموعة فرعية مرتبطة بالنشر من جدول معايير بطاقة نموذج Qwen الرسمية.

رسم أداء Qwen3.8 الرسمي المنشور من قبل فريق Qwen.

أكبر المكاسب المُبلّغ عنها مقارنة بـ Qwen3.7-Max ضمن هذه المجموعة الفرعية هي PaperBench وFrontierSWE. كما يتفوّق Qwen3.8-Max على GPT-5.6 Sol في SWE-bench Pro وPaperBench، بينما يظل GPT-5.6 Sol متقدمًا في Terminal Bench 2.1. لاستخدام النشر، اعتبر هذه سياق قدرات؛ أما قياسات الذاكرة وإنتاجية التقديم أدناه فهي أكثر صلةً تشغيليًا.

جداول المعايير ليست تصنيفات شاملة. يمكن لأطر الاختبار، والمهل الزمنية، وحدود السياق، والوصول إلى الأدوات، والتكميم أن تغيّر النتائج. قم بقياس نقطة التحقق والدقة ومحرك التقديم وتوزيع المطالبات المحددة التي تخطط لاستخدامها.

ما العتاد الذي يحتاجه Qwen3.8 للنشر المحلي؟

متطلبات GPU لنقطة التحقق Qwen3.8-2.4T-A95B

هذا هو سؤال النشر الأساسي. تنشر وصفة vLLM الحالية لـ Qwen3.8 بصمات نقاط التحقق وأعداد وحدات GPU الواقعية مع فسحة تشغيلية، وهو ما يفيد أكثر من تقدير VRAM من عدد المعلمات فقط.

بالنسبة لمعظم المؤسسات التي تحتاج حقًا إلى استضافة Qwen3.8 ذاتيًا، تُعد FP4 نقطة البداية العملية. التكوين الأبرز على NVIDIA هو NVFP4 W4A4 على 8× B300؛ والمسار المقابل على AMD هو MXFP4 على 8× MI355X.

خادم H200 بعدد 8 وحدات GPU غير كافٍ لهذه النشرات الكاملة الموصى بها. تُقدّر الوصفة الرسمية H200 بـ 16 GPU لِـ FP4، و32 لِـ FP8، و48 لِـ BF16.

متطلبات VRAM لـ Qwen3.8-27B

يُعد Qwen3.8-27B البديل العملي لفئة محطات العمل. ذاكرة الأوزان الخام تبلغ تقريبًا 54 GB في BF16، و27 GB في FP8، و13.5 GB عند دقة 4-بت. يزيد الحمل التشغيلي وذاكرة KV المؤقتة من المتطلبات الفعلية، خاصة عند أطوال سياق طويلة.

هذه الأرقام تقديرات تخطيطية مشتقة من عدد المعلمات. أكّد نقطة التحقق الدقيقة، وصيغة التكميم، ومحرك التقديم، وطول السياق، وإعدادات ذاكرة KV قبل تحديد حجم عتاد الإنتاج.

هل يمكن تشغيل Qwen3.8 على وحدات GPU الاستهلاكية؟

النموذج الكامل Qwen3.8-2.4T-A95B غير عملي على وحدات GPU الاستهلاكية العادية، حتى مع التكميم العدواني. أظهر مشروع مجتمعي بناءً مضغوطًا بشدة بحجم 397 GB بصيغة UD-Q1_0 عبر أربعة أنظمة DGX Spark، لكن هذا المسار تكميم تجريبي شديد وليس خط الأساس لتقديم حساس للجودة.

للمحطة العمل أو المختبر المنزلي، النموذج الأنسب هو Qwen3.8-27B، الذي أُطلقت أوزانه المفتوحة في 14 أغسطس 2026. هذا النموذج أسهل بعدة مراتب في الاستضافة وهو الخيار الصحيح إذا كان "محلي" يعني محطة عمل واحدة لا عنقود GPU.

قبل تثبيت Qwen 3.8 Max

اخطط للبنية التحتية قبل تشغيل أمر التثبيت. ستحتاج إلى Linux، وتكديس مسرّعات متوافق، ومساحة تخزين محلية أو مشتركة كافية لنقطة التحقق، وروابط GPU عالية النطاق الترددي، وعند العبور بين عقد، إلى شبكة مُصمَّمة للاستدلال الموزع. توصي وصفة vLLM حاليًا بـ vLLM nightly وTransformers 5.4.0 أو الأحدث.

bash

uv venv
source .venv/bin/activate

uv pip install -U vllm \
  --extra-index-url https://wheels.vllm.ai/nightly

uv pip install -U "transformers>=5.4.0"

كيفية نشر Qwen 3.8 بدقة FP8 مع vLLM

FP8 اختيار معقول عندما ترغب في نقطة تحقق مقدمة من Qwen ويمكنك تحمّل بنية متعددة العقد. نقطة التحقق الرسمية هي Qwen/Qwen3.8-2.4T-A95B-FP8.

لنشر من عقدتين و16 GPU من فئة B300، شغّل العقدة الرأسية بـ:

bash

export HEAD_ADDR="10.0.0.10"

vllm serve Qwen/Qwen3.8-2.4T-A95B-FP8 \
  --tensor-parallel-size 16 \
  --nnodes 2 \
  --node-rank 0 \
  --master-addr "$HEAD_ADDR" \
  --max-model-len 262144 \
  --kv-cache-dtype fp8 \
  --reasoning-parser qwen3
On the worker node, use the same topology with a different node rank and no API server:

bash

export HEAD_ADDR="10.0.0.10"

vllm serve Qwen/Qwen3.8-2.4T-A95B-FP8 \
  --tensor-parallel-size 16 \
  --nnodes 2 \
  --node-rank 1 \
  --master-addr "$HEAD_ADDR" \
  --headless \
  --max-model-len 262144 \
  --kv-cache-dtype fp8 \
  --reasoning-parser qwen3

لا تنسخ مثال 16 GPU مباشرة إلى خوادم H200 دون إعادة تحجيم الطوبولوجيا. يُحدَّد نفس متغير FP8 حاليًا على أنه يحتاج 32× H200 في وصفة vLLM.

كيفية تشغيل Qwen 3.8 على خادم واحد 8× B300

بالنسبة إلى NVIDIA Blackwell، أكثر تكوين عملي للنموذج الكامل هو NVFP4. تُثبت vLLM حاليًا NVFP4 W4A4 مع توازٍ موضعي عبر ثمانية GPU من B300.

bash

vllm serve Inferact/Qwen3.8-2.4T-A95B-NVFP4 \
  --tensor-parallel-size 8 \
  --max-model-len 262144 \
  --kv-cache-dtype fp8 \
  --reasoning-parser qwen3 \
  --enable-auto-tool-choice \
  --tool-call-parser qwen3_coder

يُعد بناء NVFP4 من Inferact نقطة تحقق مُكمَّمة وليست قطعة Qwen الأصلية بصيغة BF16. تحقّق من جودة النموذج على مجموعة قبولك الخاصة قبل اعتباره بديلاً مباشرًا لـ BF16 أو FP8.

كيفية نشر Qwen 3.8 باستخدام SGLang

أضافت SGLang دعم اليوم-0 لـ Qwen3.8 في 12 أغسطس وهي جذابة خصوصًا للتقديم عالي الإنتاجية، والتخزين المسبق للبدايات (prefix caching)، والتوازي بين الخبراء، وفك الترميز التخميني، وفصل مرحلتي prefill/decode.

bash

SGLANG_ENABLE_MOE_DEFERRED_FINALIZE=1 \
SGLANG_FLASHINFER_MNNVL_CUTEDSL_AR_FUSION=1 \
sglang serve \
  --trust-remote-code \
  --model-path RadixArk/Qwen3.8-2.4T-A95B-NVFP4 \
  --tp-size 8 \
  --context-length 200000 \
  --preferred-sampling-params '{"top_k": 20}' \
  --attention-backend trtllm_mha \
  --linear-attn-prefill-backend flashinfer \
  --linear-attn-decode-backend flashinfer \
  --reasoning-parser qwen3 \
  --tool-call-parser qwen3_coder \
  --host 0.0.0.0 \
  --port 30000

تذكر SGLang 346 رمزًا/ث للإخراج عند حجم دفعة 1 على TP8 B300 مع MTP، وإنتاجية كلية أعلى بكثير في مخططات التقديم المُفككة. اعتبر هذه أرقام طبقة التقديم، لا مقاييس جودة النموذج.

اختبار نقطة النهاية المحلية المتوافقة مع OpenAI

يوفّر كل من vLLM وSGLang واجهات API متوافقة مع OpenAI، مما يجعل التكامل مع التطبيقات مباشرًا.

python

from openai import OpenAI

client = OpenAI(
    api_key="EMPTY",
    base_url="http://localhost:8000/v1",
    timeout=3600,
)

response = client.chat.completions.create(
    model="Qwen/Qwen3.8-2.4T-A95B-FP8",
    messages=[
        {
            "role": "user",
            "content": "Design a fault-tolerant Redis architecture for three regions."
        }
    ],
    temperature=1.0,
    top_p=0.95,
    max_tokens=8192,
)

print(response.choices[0].message.content)

توصي بطاقة النموذج الرسمية بالقيم temperature=1.0 وtop_p=0.95 وtop_k=20 كمعايير أخذ عينات أساسية. لأعمال الوكلاء، اترك ميزانية إخراج كافية للتفكير بدلًا من تحديد max_tokens لإجابة نهائية مرئية فقط.

تمكين نافذة سياق 1M

تملك نقطة التحقق المفتوحة Qwen3.8-2.4T-A95B سياقًا أصليًا بطول 262,144 رمزًا ويمكن توسيعه إلى نحو 1.01M. توثّق وصفة vLLM النمط التالي:

bash

VLLM_ALLOW_LONG_MAX_MODEL_LEN=1 \
vllm serve Qwen/Qwen3.8-2.4T-A95B-FP8 \
  --max-model-len 1010000 \
  --hf-overrides '{"max_position_embeddings": 1010000}' \
  --reasoning-parser qwen3 \
  ...

لا تجعل 1M الإعداد الافتراضي لمجرد أنه مدعوم. فالسياقات القصوى الأكبر تحجز سعة أكبر لذاكرة التخزين المؤقت وقد تقلل بشكل حاد من التوازي. اضبط --max-model-len على عبء العمل الحقيقي.

كيف تحسّن أداء استدلال Qwen3.8؟

استخدم MTP-3 لتقليل الكمون لمستخدم واحد

يتضمن Qwen3.8 ميزة التنبؤ متعدد الرموز. في قياسات vLLM المنشورة، ينقل MTP-3 إنتاج المستخدم الواحد من 130 إلى 307 رمز/ث لـ FP8 TP16 ومن 133 إلى 304 رمز/ث لـ NVFP4 TP8.

bash

--speculative-config '{"method":"mtp","num_speculative_tokens":3}'

استخدم fastsafetensors لتسريع بدء التشغيل

بالنسبة للنماذج بحجم التيرابايت، يهم وقت بدء التشغيل. في قياس vLLM، انخفض تحميل الأوزان من 545 ثانية إلى 306 ثوانٍ مع fastsafetensors والتحميل الكسول.

bash

--load-format fastsafetensors \
--safetensors-load-strategy lazy

استخدم التوازي بين الخبراء لزيادة الإنتاجية المتزامنة

للتوازي العالي، يستفيد Qwen3.8 من مخططات التوازي بين الخبراء لأنه يضم 512 خبيرًا موجّهًا. تُبلغ vLLM عن ما يصل إلى 3,200 رمز/ث/‏GPU لـ FP8 EP وحتى 4,300 رمز/ث/‏GPU لتكوين NVFP4 DEP16 المُحسَّن.

اضبط --max-model-len لتحقيق توازن بين VRAM والتوازي

اضبط قيمة --max-model-len على أطول تسلسل يحتاجه عبء العمل حقًا. القيمة الأكبر تحجز سعة أكبر故 لذاكرة KV المؤقتة، وتزيد الضغط على الذاكرة، وقد تقلل عدد الطلبات المتزامنة حتى عند ملاءمة أوزان النموذج للذاكرة.

ابدأ ببرسنتيل ممثّل للإنتاج بدلًا من الحد الأقصى المعلن لسياق النموذج. اختبر حدّك المختار تحت نفس الدقة ونمط الدُفعات ومحرك التقديم المستخدم في الإنتاج، ثم ارفعه فقط عندما تحتاج الطلبات الفعلية إلى سياق أكبر.

نشر Qwen 3.8 Max محليًا مقابل عبر API

الأوزان المفتوحة لا تجعل الاستدلال المحلي اقتصاديًا تلقائيًا. يعتمد القرار الصحيح على نسبة الاستفادة، وإقامة البيانات، والكوادر، وأهداف الإتاحة، وما إذا كنت تحتاج فعلًا إلى ميزات النموذج المُدار متعددة الوسائط.

إذا كنت تمتلك بالفعل مسرّعات مناسبة وتتمتع بنسبة استفادة مرتفعة باستمرار، يمكن تبرير الاستضافة الذاتية. أما إذا كنت ستشتري عنقودًا فقط لهذا النموذج، فـQwen3.8-Max على CometAPI عادةً ما يكون المسار الأقل احتكاكًا. يغطي دليل API الحالي التكامل المُستضاف، بينما يغطي دليل التسعير نمذجة الكلفة؛ لذا يظل هذا المقال مُركّزًا على النشر المحلي.

مشاكل شائعة في النشر المحلي لـ Qwen 3.8

ينفد خادمك من ذاكرة GPU أثناء بدء التشغيل

قم أولًا بتقليل --max-model-len إذا كانت المشكلة من ذاكرة التخزين المؤقت. إذا لم تكن الأوزان نفسها تلائم الذاكرة، فلن يحل تقليل السياق المشكلة الجذرية؛ انتقل إلى نقطة تحقق منخفضة الدقة مُثبتة أو أضف وحدات GPU.

يفشل التوازي الموضعي بسبب حجم غير صالح

يمتلك Qwen3.8 عدد 64 رأس انتباه في طبقاته ذات الانتباه الكامل، لذا يتطلب vLLM أن يقسم TP العدد 64. أحجام TP المباشرة هي 1 و2 و4 و8 و16 و32. لذلك فإن VRAM الإجمالية الخام ليست كافية لاختيار الطوبولوجيا.

يستغرق الخادم وقتًا طويلًا ليبدأ

يمكن أن يستغرق تحميل تيرابايت واحد إلى عدة تيرابايت من الأوزان بالإضافة إلى JIT للنوى عدة دقائق. زد قيمة VLLM_ENGINE_READY_TIMEOUT_S وافحص نقطة نهاية استدلال حقيقية بدلًا من افتراض نافذة بدء تشغيل قصيرة.

لا يستطيع النموذج المحلي معالجة صورة

هذا متوقع. نقطة التحقق المفتوحة Qwen3.8-2.4T-A95B نصية فقط. هذا القيد خاص بهذه النقطة. يدعم Qwen3.8-27B الإدخال المرئي عند تحميل ملفات الإسقاط البصري المنفصلة الخاصة به.

سياق 1M يقلل الإنتاجية بشكل حاد

قلّل --max-model-len إلى أطول تسلسل يحتاجه عبء عملك فعليًا. أكبر نافذة سياق مدعومة ليست بالضرورة أفضل إعداد إنتاجي؛ اختر حد سياق يوازن بين متطلبات عبء العمل واستخدام ذاكرة KV المؤقتة والتوازي.

هل يمكن لـ Ollama أو LM Studio تشغيل Qwen 3.8 Max؟

يمكن للنظام البيئي حزم أوزان Qwen3.8 المُكمَّمة بشدة لاستدلال بأسلوب llama.cpp، لكن لا ينبغي الخلط بين ذلك وبين سير عمل Ollama عادي على سطح المكتب. فبناء مُكمَّم يشغل مئات الجيجابايت لا يزال يتطلب مئات الجيجابايت من الذاكرة المتاحة وينطوي على مقايضات كبيرة في الجودة والأداء.

بالنسبة للتطوير المحلي العادي، الهدف المناسب هو Qwen3.8-27B. يجب التعامل مع النموذج الكامل 2.4T كنموذج خادم/عنقود حتى عندما تجعل كوانتات المجتمع القصوى تشغيله ممكنًا تقنيًا على عتاد غير معتاد.

أي طريقة نشر يجب أن تختار؟

بالنسبة إلى NVIDIA Blackwell، يُعد نشر NVFP4 على 8× B300 حاليًا أنظف نقطة انطلاق للنموذج الكامل. وعلى AMD، يُعد 8× MI355X مع MXFP4 التكوين العملي المقابل. استخدم FP8 عندما تُفضِّل مصدر نقطة التحقق وجودتها على حجم البنية التحتية، وBF16 فقط عندما يبرر أعلى وفاء متطلبات ذاكرة على مستوى عدة رفوف.

لمحطة عمل، استخدم Qwen3.8-27B. لفرق التطبيقات التي تحتاج قدرات Max دون تشغيل عنقود GPU، استخدم نموذج Qwen3.8-Max المُستضاف على CometAPI.

الخلاصة

لقد تجاوز Qwen3.8-Max حدًا مهمًا منذ إطلاق API الأولي: أصبحت عائلة Qwen من فئة Max تمتلك الآن نقطة تحقق 2.4T مفتوحة يمكن للمؤسسات تشغيلها بالكامل على بنيتها التحتية الخاصة.

لكن الأوزان المفتوحة لا تعني عتادًا استهلاكيًا. تجعل بصمة BF16 بحجم 4.45 TiB، ونقطة FP8 بحجم 2.27 TiB، ومتغيرات FP4 بحجم 1.3–1.5 TiB من Qwen3.8-2.4T-A95B أحد أكثر النماذج المفتوحة كثافةً من حيث البنية التحتية المتاحة. الجانب العملي الإيجابي هو أن vLLM وSGLang يدعمان البنية بالفعل، وتجعل FP4 نشر 8× B300 أو 8× MI355X على عقدة واحدة ممكنًا.

استضف ذاتيًا عندما تبرر السيطرة على البيانات، والاستفادة المستمرة، وامتلاك البنية التحتية تشغيل العنقود. وإلا، استخدم API المُدار لـ Max—أو Qwen3.8-27B عندما يكون ما تريده حقًا هو نموذج Qwen قوي على محطة عمل واحدة.