Spesifikasi Teknis MiMo-V2.5-Pro
| Spesifikasi | MiMo-V2.5-Pro |
|---|---|
| ID model | mimo-v2.5-pro |
| Penyedia | Xiaomi MiMo |
| Jenis model | Model bahasa besar agentik |
| Arsitektur | Sparse Mixture-of-Experts |
| Total parameter | 1.02T |
| Parameter aktif | 42B |
| Jendela konteks | 1M tokens |
| Keluaran | Teks |
| Arsitektur atensi | Hibrida SWA + Global Attention |
| Token pelatihan | 27T |
| Konteks maksimum model dasar | 256K |
| Konteks maksimum Pro | 1M |
| Lisensi | MIT |
Perbedaan antara 1.02T total parameter dan 42B parameter aktif itu penting. MiMo-V2.5-Pro adalah model MoE: setiap token hanya mengaktifkan subset dari parameter yang tersedia. Hal ini secara substansial mengubah profil komputasi inferensi dibandingkan model dense 1T-parameter, meskipun keseluruhan model tetap memiliki kebutuhan memori dan deployment yang sangat besar.
Apa Fitur Utama MiMo-V2.5-Pro?
1. Arsitektur Sparse MoE Skala Triliun
MiMo-V2.5-Pro memiliki 1.02T total parameter dan 42B parameter aktif.
Arsitekturnya berisi 384 routed experts, dengan delapan expert diaktifkan untuk setiap token. Model ini memiliki 70 lapisan transformer, terdiri dari satu lapisan dense dan 69 lapisan MoE.
Ini memberikan kapasitas representasional yang jauh lebih besar dibanding MiMo-V2.5 standar sambil menghindari biaya komputasi untuk mengaktifkan semua 1.02T parameter untuk setiap token.
Inti praktisnya adalah:
MiMo-V2.5-Pro adalah model berkapasitas triliun parameter secara total, tetapi komputasi per token ditentukan oleh jalur 42B parameter aktifnya.
2. Konteks 1 Juta Token
Model ini mendukung hingga 1M tokens konteks.
Ini adalah salah satu kemampuan terpenting untuk agen otonom karena alur kerja yang berjalan lama dapat mengumpulkan:
- Keluaran alat
- Kode sumber
- Hasil pencarian
- Dokumentasi
- Keadaan penalaran perantara
- Instruksi pengguna
- Log eksekusi
Alih-alih berulang kali merangkum dan membuang konteks lama, sebuah agen berpotensi mempertahankan riwayat kerja yang jauh lebih besar.
Evaluasi konteks panjang Xiaomi secara khusus menguji model dari 32K hingga 1M input tokens.
3. Atensi Hibrida Sliding-Window dan Global
MiMo-V2.5-Pro menggunakan rasio 6:1 antara Sliding Window Attention (SWA) dan Global Attention, dengan jendela sliding 128 token.
Arsitekturnya berisi:
- 60 lapisan SWA
- 10 lapisan atensi global
- Jendela SWA 128 token
Xiaomi melaporkan bahwa desain ini mengurangi penyimpanan KV-cache hampir 7× sambil mempertahankan performa konteks panjang melalui learnable attention-sink bias.
Ini adalah salah satu bagian paling signifikan secara teknis dari model ini.
Jendela konteks 1M mahal jika setiap lapisan melakukan full attention ke seluruh urutan. Atensi hibrida mengurangi jumlah informasi yang perlu diperhatikan secara global oleh setiap lapisan sambil mempertahankan lapisan atensi global khusus untuk hubungan jarak jauh.
4. Prediksi Multi-Token
MiMo-V2.5-Pro memiliki tiga modul MTP yang ringan.
Prediksi Multi-Token memungkinkan model memprediksi beberapa token masa depan dengan cara yang dapat digunakan untuk decoding gaya spekulatif dan akselerasi inferensi.
Xiaomi melaporkan bahwa arsitektur MTP-nya dapat melipatgandakan kecepatan keluaran hingga 3× saat inferensi di bawah konfigurasi deployment yang dijelaskan.
Ini sangat penting bagi agen karena agen dapat menghasilkan sejumlah besar keluaran perantara sepanjang lintasan yang panjang. Meningkatkan kecepatan generasi token dapat berdampak bermakna pada latensi total tugas.
5. Reinforcement Learning Agentik
Pipeline pasca-pelatihan MiMo-V2.5-Pro mencakup:
- Fine-tuning terawasi
- Reinforcement learning agentik skala besar
- Multi-Teacher On-Policy Distillation (MOPD)
Objektif pelatihannya secara eksplisit berorientasi pada perilaku agen yang kompleks, bukan hanya tanya jawab benchmark statis.
Inilah sebabnya evaluasi terkuat model ini terkonsentrasi pada pengodean, interaksi terminal, penalaran konteks panjang, dan benchmark agen.
6. Pra-pelatihan 27T Token
MiMo-V2.5-Pro dipra-latih pada sekitar 27 triliun token, menggunakan presisi campuran FP8 dan panjang urutan native 32K sebelum mendukung jendela konteks 1M yang diperluas.
Skala pra-pelatihan, dikombinasikan dengan arsitektur MoE berparameter triliun, menempatkan MiMo-V2.5-Pro dengan tegas dalam kelas model frontier saat ini.
Bagaimana Performa MiMo-V2.5-Pro pada Benchmark?
Hasil evaluasi yang dipublikasikan sangat berguna karena mencakup benchmark penalaran umum serta evaluasi pengodean/agen yang praktis.
| Benchmark | Hasil MiMo-V2.5-Pro | Jenis evaluasi |
|---|---|---|
| SWE-Bench Verified | 78.9 | Rekayasa perangkat lunak |
| SWE-Bench Pro | 57.2 | Rekayasa perangkat lunak |
| Terminal-Bench 2.0 | 68.4 | Agen terminal |
| GSM8K | 99.6 | Penalaran matematis |
| GPQA Diamond | 66.7 | Penalaran tingkat pascasarjana |
| MMLU-Pro | 68.5 | Penalaran umum |
| MMLU | 89.4 | Pengetahuan/penalaran umum |
| MMLU-Redux | 92.8 | Pengetahuan/penalaran umum |
| HumanEval+ | 75.6 | Generasi kode |
| MBPP+ | 74.1 | Pemrograman Python |
| LiveCodeBench v6 | 39.6 | Pengodean kompetitif |
| ARC-Challenge | 97.2 | Penalaran |
| AIME 2024/2025 | 37.3 | Matematika kompetisi |
Hasilnya menunjukkan profil yang sangat kuat dalam rekayasa perangkat lunak dan penalaran matematis. Skor 78.9 pada SWE-Bench Verified dan 68.4 pada Terminal-Bench 2.0 sangat relevan bagi pengembang yang membangun sistem pengodean otonom.
Performa Konteks Panjang
Hasil konteks panjang mungkin lebih menarik daripada benchmark standar.
Pada evaluasi GraphWalks, MiMo-V2.5-Pro mempertahankan performa terukur pada panjang konteks ekstrem:
| Konteks | BFS | Parents |
|---|---|---|
| 512K | 0.56 | 0.92 |
| 1M | 0.37 | 0.62 |
Xiaomi melaporkan bahwa MiMo-V2-Pro sebelumnya memburuk dengan cepat di atas 128K dan mencapai 0.00 pada 1M untuk kedua sub-tugas, sedangkan V2.5-Pro mempertahankan performa non-nol pada 1M penuh.
Ini adalah perbedaan yang bermakna: Konteks 1M MiMo-V2.5-Pro bukan sekadar maksimum teoretis; evaluasi konteks panjang yang dipublikasikan menunjukkan performa yang berguna jauh di dalam jendela tersebut.
Contoh Agen Dunia Nyata
| Tugas | Hasil dilaporkan |
|---|---|
| PKU SysY Compiler | 4.3 hours |
| Panggilan alat selama tugas kompilator | 672 |
| Kasus uji kompilator lulus | 233/233 |
| Editor video full-stack | 11.5 hours |
| Kode yang dihasilkan untuk editor video | 8,192 lines |
| Intervensi manusia | None reported |
| Panggilan alat horizon panjang | Nearly 1,000 |
Ini adalah demonstrasi yang dilaporkan Xiaomi, bukan skor benchmark terstandar.
MiMo-V2.5-Pro vs MiMo-V2.5
Kedua model berbagi generasi yang sama tetapi menargetkan beban kerja yang berbeda.
| Spesifikasi | MiMo-V2.5 | MiMo-V2.5-Pro |
|---|---|---|
| Total parameter | 310B | 1.02T |
| Parameter aktif | 15B | 42B |
| Konteks | 1M | 1M |
| Lapisan | 48 | 70 |
| Routed experts | 256 | 384 |
| Expert/token | 8 | 8 |
| Lapisan full-attention | 9 | 10 |
| Lapisan SWA | 39 | 60 |
| Fokus utama | Agen omni-modal | Agen kompleks/pemrograman |
| Pemahaman video/audio/gambar | Ya | Terutama berfokus bahasa/agen |
| Performa agen horizon panjang | Kuat | Unggulan |
Pilihan ini bukan sekadar "Pro lebih baik."
Jika suatu aplikasi membutuhkan pemahaman native gambar, video, dan audio, MiMo-V2.5 adalah pilihan yang lebih alami. Jika beban kerja berpusat pada penalaran kompleks, rekayasa perangkat lunak, interaksi terminal, dan agen yang berjalan lama, MiMo-V2.5-Pro adalah pilihan yang lebih kuat.
Keterbatasan MiMo-V2.5-Pro
1. Masukan Model Hanya Teks
Berbeda dengan mimo-v2.5, spesifikasi resmi model Pro mencantumkan Teks sebagai modalitas inputnya. Model ini tidak boleh dipasarkan sebagai model multimodal dalam keluarga V2.5.
2. Persyaratan Komputasi Tinggi untuk Self-Hosting
Model ini memiliki sekitar 1T total parameter / 42B parameter aktif, membuat deployment lokal jauh lebih menuntut daripada model open kecil konvensional.
3. Performa Agen Bergantung pada Kerangka Kerja
Klaim Xiaomi tentang hampir 1.000 panggilan alat secara eksplisit terkait dengan penggunaan kerangka kerja Agen yang sesuai. Model saja tidak menjamin bahwa aplikasi akan mencapai performa horizon panjang yang sama.
4. Penanganan Konten Penalaran
Aplikasi Agen multi-giliran yang menggunakan mode berpikir dan panggilan alat perlu mempertahankan reasoning_content dengan benar. Penanganan yang tidak tepat dapat menghasilkan kesalahan API.
Skenario Penggunaan Terbaik
Rekayasa perangkat lunak skala besar
- Migrasi repository
- Refactoring
- Debugging
- Pembuatan pengujian
- Pengembangan kompilator
- Pengembangan aplikasi full-stack
Agen pengodean otonom
MiMo-V2.5-Pro sangat cocok untuk Agen yang perlu berulang kali:
memeriksa → memodifikasi → mengeksekusi → menguji → mendiagnosis → memodifikasi
Penalaran dokumen panjang
Konteks 1M membuatnya berguna untuk:
- Kontrak hukum
- Spesifikasi teknis
- Koleksi riset berukuran besar
- Dokumentasi perusahaan
Agen bisnis kompleks
Pemanggilan alat + penelusuran web + keluaran terstruktur dapat mendukung:
- Agen riset
- Agen pemrosesan data
- Otomatisasi alur kerja perusahaan
- Sistem keputusan multi-langkah
Cara Menggunakan API MiMo-V2.5-Pro di CometAPI
ID model CometAPI yang relevan adalah:
mimo-v2.5-pro
Bagi pengembang, lapisan agregasi API sangat berguna untuk menguji MiMo-V2.5-Pro terhadap model penalaran dan agen kelas atas lainnya tanpa mempertahankan integrasi penyedia independen.
Langkah 1: Dapatkan Kunci API CometAPI
Buat atau masuk ke akun CometAPI Anda dan dapatkan kunci API Anda dari konsol API.
Setel sebagai variabel lingkungan:
export COMETAPI_KEY="YOUR_COMETAPI_KEY"
Langkah 2: Konfigurasikan Klien API
Xiaomi menyediakan API yang kompatibel dengan protokol OpenAI dan Anthropic, sehingga migrasi relatif mudah. Untuk integrasi produksi, gunakan endpoint/skema CometAPI saat ini untuk mimo-v2.5-pro, khususnya jika Anda memerlukan fitur lanjutan seperti pemanggilan alat, streaming, keluaran terstruktur, atau permintaan konteks panjang.
Langkah 3: Hubungkan MiMo-V2.5-Pro ke Alat
Model ini menjadi jauh lebih berguna saat terhubung ke alat eksternal.
Sebagai contoh:
┌── Web Search
│
User → MiMo-V2.5-Pro ├── GitHub
│
├── Terminal
│
├── Database
│
└── Internal APIs
↓
Tool Results
↓
MiMo-V2.5-Pro
↓
Final Result
Arsitektur ini jauh lebih selaras dengan penggunaan yang dimaksudkan model daripada integrasi chatbot sederhana.