Especificaciones técnicas de MiMo-V2.5-Pro
| Especificación | MiMo-V2.5-Pro |
|---|---|
| ID del modelo | mimo-v2.5-pro |
| Proveedor | Xiaomi MiMo |
| Tipo de modelo | Modelo de lenguaje grande orientado a agentes |
| Arquitectura | Mezcla de expertos (MoE) dispersa |
| Parámetros totales | 1.02T |
| Parámetros activados | 42B |
| Ventana de contexto | 1M tokens |
| Salida | Texto |
| Arquitectura de atención | Atención híbrida SWA + global |
| Tokens de entrenamiento | 27T |
| Contexto máximo del modelo base | 256K |
| Contexto máximo Pro | 1M |
| Licencia | MIT |
La distinción entre 1.02T parámetros totales y 42B parámetros activos es importante. MiMo-V2.5-Pro es un modelo MoE: cada token activa solo un subconjunto de los parámetros disponibles. Eso cambia sustancialmente su perfil de cómputo de inferencia en comparación con un modelo denso de 1T de parámetros, aunque el modelo completo sigue teniendo enormes requisitos de memoria y despliegue.
¿Cuáles son las principales características de MiMo-V2.5-Pro?
1. Arquitectura MoE dispersa a escala del billón
MiMo-V2.5-Pro contiene 1.02T parámetros totales y 42B parámetros activados.
Su arquitectura contiene 384 expertos enrutados, con ocho expertos activados por cada token. El modelo tiene 70 capas Transformer, consistentes en una capa densa y 69 capas MoE.
Esto proporciona una capacidad de representación sustancialmente mayor que el MiMo-V2.5 estándar, evitando el costo de cómputo de activar los 1.02T parámetros para cada token.
La conclusión práctica es:
MiMo-V2.5-Pro es un modelo de billón de parámetros por capacidad total, pero su cómputo por token está gobernado por su ruta de 42B parámetros activos.
2. Contexto de 1 millón de tokens
El modelo admite hasta 1M tokens de contexto.
Esta es una de sus capacidades más importantes para agentes autónomos porque los flujos de trabajo de larga duración pueden acumular:
- Salidas de herramientas
- Código fuente
- Resultados de búsqueda
- Documentación
- Estado de razonamiento intermedio
- Instrucciones del usuario
- Registros de ejecución
En lugar de resumir repetidamente y descartar contexto antiguo, un agente puede potencialmente mantener un historial de trabajo mucho más amplio.
La evaluación de contexto largo de Xiaomi prueba específicamente el modelo desde 32K hasta 1M tokens de entrada.
3. Atención híbrida de ventana deslizante y global
MiMo-V2.5-Pro utiliza una proporción de 6:1 de Sliding Window Attention (SWA) frente a atención global, con una ventana deslizante de 128 tokens.
La arquitectura contiene:
- 60 capas SWA
- 10 capas de atención global
- Ventana SWA de 128 tokens
Xiaomi informa que este diseño reduce el almacenamiento de la KV-cache en casi 7× al tiempo que preserva el rendimiento de contexto largo mediante un sesgo de sumidero de atención entrenable.
Esta es una de las partes técnicamente más significativas del modelo.
Una ventana de contexto de 1M es costosa si cada capa realiza atención completa sobre toda la secuencia. La atención híbrida reduce la cantidad de información a la que cada capa necesita atender globalmente, mientras mantiene capas dedicadas de atención global para relaciones de largo alcance.
4. Predicción de múltiples tokens
MiMo-V2.5-Pro contiene tres módulos MTP ligeros.
La Predicción de múltiples tokens permite que el modelo prediga varios tokens futuros de una manera que puede usarse para decodificación de estilo especulativo y aceleración de la inferencia.
Xiaomi informa que su arquitectura MTP puede triplicar la velocidad de salida durante la inferencia bajo su configuración de despliegue descrita.
Esto es especialmente importante para agentes, porque un agente puede generar grandes cantidades de salida intermedia a lo largo de una trayectoria larga. Mejorar la velocidad de generación de tokens puede, por tanto, tener un impacto significativo en la latencia total de la tarea.
5. Aprendizaje por refuerzo orientado a agentes
La canalización de postentrenamiento de MiMo-V2.5-Pro incluye:
- Ajuste fino supervisado
- Aprendizaje por refuerzo a gran escala orientado a agentes
- Destilación en política con múltiples maestros (MOPD)
El objetivo de entrenamiento está explícitamente orientado hacia comportamiento complejo de agente, en lugar de solo responder preguntas de benchmarks estáticos.
Por eso las evaluaciones más sólidas del modelo se concentran en torno a codificación, interacción con terminal, razonamiento de contexto largo y benchmarks de agentes.
6. Preentrenamiento con 27T tokens
MiMo-V2.5-Pro fue preentrenado en aproximadamente 27 billones de tokens, utilizando precisión mixta FP8 y una longitud de secuencia nativa de 32K antes de admitir la ventana de contexto extendida de 1M.
La escala del preentrenamiento, combinada con la arquitectura MoE de billón de parámetros, sitúa a MiMo-V2.5-Pro firmemente en la clase de modelos de vanguardia actuales.
¿Cómo rinde MiMo-V2.5-Pro en benchmarks?
Los resultados de evaluación publicados son especialmente útiles porque incluyen tanto benchmarks de razonamiento general como evaluaciones prácticas de codificación/agentes.
| Benchmark | Resultado de MiMo-V2.5-Pro | Tipo de evaluación |
|---|---|---|
| SWE-Bench Verified | 78.9 | Ingeniería de software |
| SWE-Bench Pro | 57.2 | Ingeniería de software |
| Terminal-Bench 2.0 | 68.4 | Agente de terminal |
| GSM8K | 99.6 | Razonamiento matemático |
| GPQA Diamond | 66.7 | Razonamiento de nivel posgrado |
| MMLU-Pro | 68.5 | Razonamiento general |
| MMLU | 89.4 | Conocimiento/razonamiento general |
| MMLU-Redux | 92.8 | Conocimiento/razonamiento general |
| HumanEval+ | 75.6 | Generación de código |
| MBPP+ | 74.1 | Programación en Python |
| LiveCodeBench v6 | 39.6 | Programación competitiva |
| ARC-Challenge | 97.2 | Razonamiento |
| AIME 2024/2025 | 37.3 | Matemáticas de competición |
Los resultados muestran un perfil particularmente sólido en ingeniería de software y razonamiento matemático. El 78.9 reportado en SWE-Bench Verified y el 68.4 en Terminal-Bench 2.0 son especialmente relevantes para desarrolladores que construyen sistemas autónomos de codificación.
Rendimiento en contexto largo
Los resultados de contexto largo son posiblemente más interesantes que los benchmarks estándar.
En la evaluación GraphWalks, MiMo-V2.5-Pro mantiene un rendimiento medible en longitudes de contexto extremas:
| Contexto | BFS | Parents |
|---|---|---|
| 512K | 0.56 | 0.92 |
| 1M | 0.37 | 0.62 |
Xiaomi informa que el anterior MiMo-V2-Pro se deteriora rápidamente más allá de 128K y alcanza 0.00 en 1M en ambas subtareas, mientras que V2.5-Pro retiene un rendimiento distinto de cero en el 1M completo.
Esta es una distinción significativa: el contexto de 1M de MiMo-V2.5-Pro no es meramente un máximo teórico; la evaluación publicada de contexto largo demuestra un rendimiento útil en lo profundo de esa ventana.
Ejemplos de agentes en el mundo real
| Tarea | Resultado reportado |
|---|---|
| PKU SysY Compiler | 4.3 horas |
| Llamadas a herramientas durante la tarea del compilador | 672 |
| Casos de prueba del compilador superados | 233/233 |
| Editor de video full-stack | 11.5 horas |
| Código generado para el editor de video | 8,192 líneas |
| Intervención humana | No reportada |
| Llamadas a herramientas de largo horizonte | Casi 1,000 |
Estos son demostraciones reportadas por Xiaomi en lugar de puntuaciones de benchmarks estandarizadas.
MiMo-V2.5-Pro vs MiMo-V2.5
Los dos modelos comparten la misma generación, pero apuntan a cargas de trabajo diferentes.
| Especificación | MiMo-V2.5 | MiMo-V2.5-Pro |
|---|---|---|
| Parámetros totales | 310B | 1.02T |
| Parámetros activos | 15B | 42B |
| Contexto | 1M | 1M |
| Capas | 48 | 70 |
| Expertos enrutados | 256 | 384 |
| Expertos/token | 8 | 8 |
| Capas de atención completa | 9 | 10 |
| Capas SWA | 39 | 60 |
| Enfoque principal | Agentes multimodales | Agentes complejos/codificación |
| Comprensión de video/audio/imagen | Sí | Principalmente enfocado en lenguaje/agentes |
| Desempeño de agentes de largo horizonte | Sólido | Insignia |
La elección, por tanto, no es simplemente "el Pro es mejor".
Si una aplicación necesita comprensión nativa de imagen, video y audio, MiMo-V2.5 es la opción más natural. Si la carga de trabajo se centra en razonamiento complejo, ingeniería de software, interacción con terminal y agentes de larga duración, MiMo-V2.5-Pro es el ajuste más sólido.
Limitaciones de MiMo-V2.5-Pro
1. Entrada del modelo solo de texto
A diferencia de mimo-v2.5, la especificación oficial del modelo Pro indica Texto como su modalidad de entrada. No debe promocionarse como el modelo multimodal de la familia V2.5.
2. Altos requisitos de cómputo para autohospedaje
El modelo tiene aproximadamente 1T parámetros totales / 42B parámetros activos, lo que hace que el despliegue local sea considerablemente más exigente que con modelos abiertos pequeños convencionales.
3. El rendimiento del agente depende del framework
La afirmación de Xiaomi de cerca de 1,000 llamadas a herramientas está explícitamente asociada al uso de un framework de Agente apropiado. El modelo por sí solo no garantiza que una aplicación logre el mismo rendimiento de largo horizonte.
4. Manejo del contenido de razonamiento
Las aplicaciones de Agente multivuelta que usan modo de pensamiento y llamadas a herramientas deben preservar correctamente reasoning_content. Un manejo incorrecto puede producir errores de API.
Mejores casos de uso
Ingeniería de software a gran escala
- Migración de repositorios
- Refactorización
- Depuración
- Generación de pruebas
- Desarrollo de compiladores
- Desarrollo de aplicaciones full-stack
Agentes de codificación autónomos
MiMo-V2.5-Pro es especialmente adecuado para Agentes que necesiten repetir:
inspeccionar → modificar → ejecutar → probar → diagnosticar → modificar
Razonamiento sobre documentos largos
Su contexto de 1M lo hace útil para:
- Contratos legales
- Especificaciones técnicas
- Grandes colecciones de investigación
- Documentación empresarial
Agentes de negocio complejos
Las llamadas a herramientas + búsqueda web + salida estructurada pueden soportar:
- Agentes de investigación
- Agentes de procesamiento de datos
- Automatización de flujos de trabajo empresariales
- Sistemas de decisión de múltiples pasos
Cómo usar la API de MiMo-V2.5-Pro en CometAPI
El ID de modelo relevante en CometAPI es:
mimo-v2.5-pro
Para desarrolladores, una capa de agregación de API es especialmente útil para probar MiMo-V2.5-Pro contra otros modelos de alto nivel de razonamiento y agentes sin mantener integraciones de proveedores independientes.
Paso 1: Obtén una clave de API de CometAPI
Crea o inicia sesión en tu cuenta de CometAPI y obtén tu clave de API desde la consola de API.
Configúrala como una variable de entorno:
export COMETAPI_KEY="YOUR_COMETAPI_KEY"
Paso 2: Configura el cliente de la API
Xiaomi proporciona una API compatible con los protocolos de OpenAI y Anthropic, lo que hace la migración relativamente directa. Para la integración en producción, usa el endpoint/esquema actual de CometAPI para mimo-v2.5-pro, especialmente si necesitas funciones avanzadas como llamadas a herramientas, streaming, salidas estructuradas o solicitudes de contexto largo.
Paso 3: Conecta MiMo-V2.5-Pro a herramientas
El modelo se vuelve sustancialmente más útil cuando se conecta a herramientas externas.
Por ejemplo:
┌── Web Search
│
User → MiMo-V2.5-Pro ├── GitHub
│
├── Terminal
│
├── Database
│
└── Internal APIs
↓
Tool Results
↓
MiMo-V2.5-Pro
↓
Final Result
Esta arquitectura se alinea mucho más estrechamente con el uso previsto del modelo que una simple integración de chatbot.