mimo-v2-flash

MiMo-V2-Flash Oversigt

MiMo-V2-Flash er Xiaomi MiMo’s open-weight Mixture-of-Experts ræsonnementsmodel til MiMo-V2-Flash API’et, bygget med fokus på hurtig inferens, kodning og agent-baserede arbejdsgange. Modelkortet og den tekniske rapport beskriver den som en 309B-parameter MoE med 15B aktive parametre, et hybridt attention-design og multi-token-forudsigelse for hurtigere dekodning.

Tekniske specifikationer

Hvad er MiMo-V2-Flash?

MiMo-V2-Flash er Xiaomis inferens-effektive grundmodel til arbejdsgange med tungt ræsonnement. Den er designet til at balancere håndtering af lange kontekster med lavere servingsomkostninger ved at bruge sliding window attention for at reducere cachepres og multi-token-forudsigelse for at accelerere dekodning.

Hovedfunktioner i MiMo-V2-Flash

• MoE-effektivitet med et lille aktivt fodaftryk: 309B samlede parametre, men kun 15B aktive pr. token, hvilket er en stor del af grunden til, at modellen er positioneret til effektiv serving.
• Hybrid attention til lang kontekst: Arkitekturen veksler fem SWA-lag med ét globalt attention-lag og bruger et 128-token vindue til at reducere KV-cache-omkostninger.
• Multi-token-forudsigelse for hurtigere dekodning: Modellen indeholder 3 MTP-lag, og de tekniske materialer beskriver dette som en optimering af hastighed og gennemløb for generering.
• Bygget til agent-baserede arbejdsgange: Xiaomi positionerer den til ræsonnement, kodning og agent-brugssager, og evalueringssuiten inkluderer SWE-Bench, Terminal-Bench og BrowseComp.
• Understøttelse af lang kontekst: Repoet rapporterer understøttelse op til 256K, mens vLLM-opskriften giver praktisk serveringsvejledning for lavere max-model-len-værdier afhængigt af hukommelsesbudget.

Benchmark-ydelse

Grundmodeltabellen i repoet viser, at MiMo-V2-Flash præsterer konkurrencedygtigt mod større åbne modeller på generel viden, matematik, kodning og langkontekst-opgaver. Eftertræningstabellen fremhæver stærke agent- og ræsonnementsresultater.

MiMo-V2-Flash vs nærliggende ræsonnementsmodeller

Bedste brugsscenarier

MiMo-V2-Flash passer bedst, når du har brug for en model, der kan ræsonnere over lange input, hjælpe med kodningsopgaver og forblive effektiv i produktion. Det er et stærkt valg til dokumenttung RAG, flertrins agent-arbejdsgange, kodeassistance og langkontekst-analyse, hvor servingsomkostninger er vigtige.

Begrænsninger

MiMo-V2-Flash er optimeret til inferens-effektivitet, så den reelle gennemløb afhænger af batching, tensor-parallelisme og serveringskonfigurationen. vLLM-guiden viser også, at praktiske max-model-len-indstillinger kan være lavere end de profilerede 256K afhængigt af hukommelses- og latensafvejninger.