MiniMax-M3.1 Flash

Bouwen met CometAPIHeb je één API voor meerdere modellen nodig?Test de workflow in Playground en maak daarna een API-sleutel aan wanneer het model en de kosten passen bij je use case.

ai-model/CometAPI research

MiniMax M3.1 Flash lokaal uitvoeren: handleiding voor GPU, vLLM & SGLang

Leer hoe u MiniMax M3.1 Flash lokaal kunt uitvoeren. Verken de 428B/23B MoE-architectuur, GPU-vereisten, vLLM- en SGLang-installatie, benchmarks en API-alternatieven.

Deon GoodwinOnderzoeksteam voor AI-modellen en API

Bijgewerkt Oct 29, 2026 14 min leestijd

MiniMax M3.1 Flash lokaal uitvoeren: handleiding voor GPU, vLLM & SGLang

Gebruik dit patroon

Doe de eerste API-aanroep.

from openai import OpenAI

client = OpenAI(
    api_key="YOUR_COMETAPI_KEY",
    base_url="https://api.cometapi.com/v1",
)

response = client.chat.completions.create(
    model="gpt-5-mini",
    messages=[{"role": "user", "content": "Build this workflow."}],
)

print(response.choices[0].message.content)

TL;DR

MiniMax M3.1 Flash brengt open-weight AI naar veeleisende codeer- en agent-workflows, maar lokaal draaien vereist serieuze hardware. De 428B-parameter MoE-architectuur activeert slechts 23B parameters per token, wat de berekening vermindert zonder dat de volledige modelopslag vervalt. Ontwikkelaars met ondersteunde multi-GPU-systemen kunnen het model inzetten met vLLM of SGLang. Voor wie infrastructuurbeheer wil overslaan, biedt de MiniMax M3.1 Flash API in CometAPI een eenvoudigere start.

Belangrijkste punten

Hardware is de grootste hindernis. De gepubliceerde vLLM-configuraties gebruiken vier ondersteunde Blackwell- of AMD MI355X-GPU’s, of acht H100/H200-GPU’s.

Verder leren

Koppel dit artikel aan de volgende beslissing.

Alle onderwerpen bekijken

AI API-gidsen

Ga van modelshortlist naar een werkende productieaanvraag.

LLM-infrastructuur

Bouw een AI-aanvraaglaag die provider- en modelwijzigingen overleeft.

AI Agent

Ga van een prompt-demo naar een observeerbare agent-workflow.

Kostenoptimalisatie

Lagere kosten zonder kwaliteits- of betrouwbaarheidsafwegingen te verbergen.

Gepubliceerd op Oct 29, 2026

Laatst bijgewerkt Oct 29, 2026

42 weergaven

Gecontroleerd op duidelijkheid, bronvermelding en actuele API-terminologie.

Specificatie	MiniMax M3.1 Flash
Ontwikkelaar	MiniMax
Modelfamilie	Native multimodal MoE
Totale parameters	Circa 428B
Actieve parameters	Circa 23B per token
Maximale context	1.048.576 tokens (modelcapaciteit)
Invoertypen	Tekst, afbeeldingen en video (route-afhankelijk)
Uitvoer	Tekst
Attention	MiniMax Sparse Attention in elke laag
Kwantisatie	MXFP8 dense-lagen / NVFP4-experts
Draft-decoding	DSpark geïntegreerde draft head
Redeneerinspanning	Low, medium, high, xhigh, max
Gerapporteerde snelheid	200+ tokens/s onder gunstige omstandigheden; P50 170+ tokens/s
Licentie	MiniMax Community License
Gedocumenteerde inferentie	vLLM, SGLang
Typische topologie	4 ondersteunde Blackwell- of MI355X-GPU’s; 8 H100/H200-GPU’s

Accelerators	Gepubliceerde topologie	Opmerkingen
NVIDIA GB200/GB300/B200/B300	4 GPU’s, tensor parallel	Blackwell NVFP4-native pad
NVIDIA H100/H200	8 GPU’s, tensor parallel	FP8-caches en Marlin MoE-pad
AMD MI355X	4 GPU’s, tensor parallel	Vereist ondersteunde ROCm- en AITER-instellingen
24–32 GB consumenten-GPU	Geen referentierecept voor volledige checkpoint	Onvoldoende voor eenvoudig single-GPU laden
Alleen-CPU workstation	Geen gevalideerde praktische inzet	Offloading-experimenten zijn geen productie-richtlijn

Vereiste	Lokale vLLM	Lokale SGLang	CometAPI
Weights en GPU’s	Weights downloaden; ondersteunde GPU’s bedienen	Weights downloaden; ondersteunde GPU’s bedienen	Door provider beheerde inferentie; geen lokale weights
Blackwell / AMD MI355X	Hardwarespecifieke recepten	Hardwarespecifieke recepten	Hardware beheerd door provider
H100/H200	Gedocumenteerd acht-GPU-recept	Controleer de actuele supportmatrix	Hardware beheerd door provider
Decodering en parallelisme	DSpark op ondersteunde paden; tensor- en gedistribueerde serving	Hardwarespecifieke decodering; tensor- en expert-parallelisme	Beperkt tot opties die de route blootstelt
Controle en gegevensverwerking	Uw omgeving; u beheert schaalbaarheid	Uw omgeving; u beheert schaalbaarheid	Externe provider; provider beheert schaalbaarheid

python3 -m venv minimax-env
source minimax-env/bin/activate
python -m pip install --upgrade pip
python -m pip install -U huggingface_hub
python -m pip install "vllm>=0.33.0"
python -c "import vllm; print(vllm.__version__)"

hf download MiniMaxAI/MiniMax-M3.1-Flash \
  --local-dir ./MiniMax-M3.1-Flash

export CUDA_VISIBLE_DEVICES=0,1,2,3
export VLLM_FLOAT32_MATMUL_PRECISION=high
 
vllm serve ./MiniMax-M3.1-Flash \
  --tensor-parallel-size 4 \
  --reasoning-parser minimax_m3 \
  --block-size 128 \
  --kv-cache-dtype nvfp4 \
  --attention-config '{"indexer_kv_dtype":"nvfp4","use_prefill_query_quantization":true}' \
  --compilation-config '{"cudagraph_mode":"FULL_AND_PIECEWISE"}' \
  --speculative-config '{"method":"dspark","num_speculative_tokens":7,"attention_backend":"FLASHINFER_TS","kv_cache_dtype":"fp8","draft_sample_method":"probabilistic","rejection_sample_method":"block"}' \
  --max-model-len 32768 \
  --max-num-seqs 4 \
  --disable-hybrid-kv-cache-manager \
  --host 127.0.0.1 \
  --port 8000

curl http://127.0.0.1:8000/v1/chat/completions \
  -H "Content-Type: application/json" \
  -d '{
    "model": "./MiniMax-M3.1-Flash",
    "messages": [{"role":"user","content":"Explain sparse attention in three bullets."}],
    "temperature": 1.0,
    "top_p": 0.95,
    "max_tokens": 1024
  }'

python -m pip install openai

from openai import OpenAI
 
client = OpenAI(base_url="http://127.0.0.1:8000/v1", api_key="EMPTY")
model_id = client.models.list().data[0].id
 
response = client.chat.completions.create(
    model=model_id,
    messages=[{"role": "user", "content": "Write a Python duplicate filename detector."}],
    temperature=1.0,
    top_p=0.95,
    max_tokens=2048,
)
print(response.choices[0].message.content)

vllm serve MiniMaxAI/MiniMax-M3.1-Flash \
  --tensor-parallel-size 8 \
  --reasoning-parser minimax_m3 \
  --block-size 128 \
  --kv-cache-dtype fp8 \
  --attention-config '{"indexer_kv_dtype": "fp8"}' \
  --compilation-config '{"cudagraph_mode": "FULL_AND_PIECEWISE"}' \
  --max-model-len 32768 \
  --max-num-seqs 4 \
  --limit-mm-per-prompt '{"video": 0}' \
  --gpu-memory-utilization 0.9 \
  --no-enable-log-requests \
  --disable-hybrid-kv-cache-manager \
  --moe-backend marlin \
  --enable-auto-tool-choice \
  --tool-call-parser minimax_m3

# NVIDIA development image
docker pull lmsysorg/sglang:dev-minimax-m31-flash
 
# AMD MI350X/MI355X development image
docker pull lmsysorg/sglang:dev-minimax-m31-flash-mi35x

Benchmark	M3.1 Flash	DeepSeek V4.1 Flash 1017	Kimi K3
Automation-Bench v1.0.6	62.8	60.5	46.7
DeepSWE v1.1	73.7	77.0	67.5
Terminal Bench 4.0	38.1	42.3	12.6
OSWorld 2.0	61.7	N.v.t.	58.3
NL2Repo-Bench	61.2	68.2	58.0
BabyVision with tools	91.0	92.5	85.7

Redeneerinspanning	Gerapporteerde Automation-Bench score
Low	52,8%
Medium	57,7%
High	59,2%
Xhigh	61,2%
Max	62,8%

export COMETAPI_KEY="YOUR_COMETAPI_KEY"
 
curl https://api.cometapi.com/v1/chat/completions \
  -H "Authorization: Bearer $COMETAPI_KEY" \
  -H "Content-Type: application/json" \
  -d '{
    "model": "minimax-m3.1-flash",
    "messages": [{"role":"user","content":"Review this Python function for edge cases."}],
    "max_tokens": 2048
  }'

Prijs per miljoen tokens	MiniMax officiële API	CometAPI
Input	$0,15	$0,80
Output	$0,60	$3,20
Cached input	$0,015	Bevestig actuele routeprijs