MiMo-V2.5-Pro API

Thông số kỹ thuật của MiMo-V2.5-Pro

Sự khác biệt giữa việc có sự khác biệt giữa 1.02T tổng tham số và 42B tham số hoạt động là rất quan trọng. MiMo-V2.5-Pro là một mô hình MoE: mỗi token chỉ kích hoạt một tập con tham số sẵn có. Điều đó làm thay đổi đáng kể hồ sơ tính toán suy luận so với một mô hình đặc 1T tham số, dù toàn bộ mô hình vẫn có yêu cầu bộ nhớ và triển khai rất lớn.

Những tính năng chính của MiMo-V2.5-Pro là gì?

1. Kiến trúc Sparse MoE ở quy mô nghìn tỷ

MiMo-V2.5-Pro có 1.02T tổng tham số và 42B tham số được kích hoạt.

Kiến trúc của nó gồm 384 chuyên gia được định tuyến, với tám chuyên gia được kích hoạt cho mỗi token. Mô hình có 70 lớp Transformer, bao gồm một lớp dense và 69 lớp MoE.

Điều này cung cấp năng lực biểu diễn lớn hơn đáng kể so với MiMo-V2.5 tiêu chuẩn trong khi tránh chi phí tính toán của việc kích hoạt toàn bộ 1.02T tham số cho mỗi token.

Kết luận thực tiễn là:

MiMo-V2.5-Pro là một mô hình có tổng dung lượng ở mức nghìn tỷ tham số, nhưng tính toán trên mỗi token được quyết định bởi đường đi 42B tham số hoạt động của nó.

2. Ngữ cảnh 1 triệu token

Mô hình hỗ trợ tới 1M token ngữ cảnh.

Đây là một trong những khả năng quan trọng nhất cho các tác tử tự động vì các quy trình chạy dài có thể tích lũy:

• Kết quả từ công cụ
• Mã nguồn
• Kết quả tìm kiếm
• Tài liệu
• Trạng thái suy luận trung gian
• Hướng dẫn của người dùng
• Nhật ký thực thi

Thay vì liên tục tóm tắt và loại bỏ ngữ cảnh cũ, một tác tử có thể giữ lại lịch sử làm việc lớn hơn đáng kể.

Đánh giá ngữ cảnh dài của Xiaomi kiểm tra mô hình từ 32K đến 1M token đầu vào.

3. Cơ chế chú ý kết hợp Sliding-Window và Global

MiMo-V2.5-Pro sử dụng tỷ lệ 6:1 giữa Sliding Window Attention (SWA) và Global Attention, với cửa sổ trượt 128 token.

Kiến trúc bao gồm:

• 60 lớp SWA
• 10 lớp chú ý toàn cục
• Cửa sổ SWA 128 token

Xiaomi báo cáo rằng thiết kế này giảm lưu trữ KV-cache gần 7× trong khi vẫn duy trì hiệu năng ngữ cảnh dài thông qua độ lệch attention-sink có thể học được.

Đây là một trong những phần kỹ thuật quan trọng nhất của mô hình.

Cửa sổ ngữ cảnh 1M rất tốn kém nếu mỗi lớp thực hiện chú ý đầy đủ trên toàn bộ chuỗi. Chú ý lai giúp giảm lượng thông tin mà mỗi lớp cần chú ý ở mức toàn cục, đồng thời giữ các lớp chú ý toàn cục chuyên dụng cho các quan hệ tầm xa.

4. Dự đoán đa token

MiMo-V2.5-Pro có ba mô-đun MTP nhẹ.

Multi-Token Prediction cho phép mô hình dự đoán nhiều token tương lai theo cách có thể dùng cho giải mã kiểu suy đoán và tăng tốc suy luận.

Xiaomi báo cáo rằng kiến trúc MTP của họ có thể tăng tốc độ đầu ra lên gấp ba lần trong suy luận theo cấu hình triển khai đã mô tả.

Điều này đặc biệt quan trọng với các tác tử vì một tác tử có thể tạo ra lượng lớn đầu ra trung gian trong một quỹ đạo dài. Cải thiện tốc độ sinh token vì thế có thể tác động đáng kể đến độ trễ tổng thể của tác vụ.

5. Học tăng cường theo hướng tác tử

Quy trình hậu huấn luyện của MiMo-V2.5-Pro bao gồm:

• Tinh chỉnh có giám sát
• Học tăng cường theo hướng tác tử quy mô lớn
• Multi-Teacher On-Policy Distillation (MOPD)

Mục tiêu huấn luyện được định hướng rõ ràng tới hành vi tác tử phức tạp thay vì chỉ trả lời câu hỏi theo các chuẩn tĩnh.

Đó là lý do các đánh giá mạnh nhất của mô hình tập trung vào lập trình, tương tác terminal, lý luận ngữ cảnh dài và các benchmark tác tử.

6. Tiền huấn luyện 27T token

MiMo-V2.5-Pro được tiền huấn luyện trên khoảng 27 nghìn tỷ token, dùng FP8 mixed precision và độ dài chuỗi gốc 32K trước khi hỗ trợ cửa sổ ngữ cảnh mở rộng 1M.

Quy mô tiền huấn luyện, kết hợp với kiến trúc MoE nghìn tỷ tham số, đưa MiMo-V2.5-Pro vào nhóm mô hình tiên tiến hàng đầu hiện nay.

---

MiMo-V2.5-Pro hoạt động thế nào trên các benchmark?

Các kết quả đánh giá đã công bố đặc biệt hữu ích vì chúng bao gồm cả các benchmark lý luận tổng quát và các đánh giá lập trình/tác tử thực tiễn.

Các kết quả cho thấy hồ sơ đặc biệt mạnh về kỹ thuật phần mềm và lý luận toán học. Điểm 78.9 trên SWE-Bench Verified và 68.4 trên Terminal-Bench 2.0 đặc biệt liên quan đối với các nhà phát triển xây dựng hệ thống lập trình tự động.

Hiệu năng ngữ cảnh dài

Kết quả ngữ cảnh dài có lẽ thú vị hơn các benchmark tiêu chuẩn.

Trên bài đánh giá GraphWalks, MiMo-V2.5-Pro duy trì hiệu năng đo lường được ở các độ dài ngữ cảnh cực lớn:

Xiaomi báo cáo rằng MiMo-V2-Pro trước đó suy giảm nhanh chóng vượt quá 128K và đạt 0.00 tại 1M trên cả hai bài con, trong khi V2.5-Pro vẫn giữ hiệu năng khác 0 ở mức 1M đầy đủ.

Đây là khác biệt có ý nghĩa: Ngữ cảnh 1M của MiMo-V2.5-Pro không chỉ là mức tối đa lý thuyết; đánh giá ngữ cảnh dài được công bố cho thấy hiệu năng hữu ích sâu trong cửa sổ đó.

Ví dụ tác tử trong thế giới thực

Đây là các minh họa do Xiaomi báo cáo, không phải điểm số benchmark chuẩn hóa.

MiMo-V2.5-Pro so với MiMo-V2.5

Hai mô hình cùng thế hệ nhưng nhắm tới khối lượng công việc khác nhau.

Vì vậy lựa chọn không đơn giản là "Pro tốt hơn."

Nếu một ứng dụng cần khả năng hiểu hình ảnh, video và âm thanh gốc, MiMo-V2.5 là lựa chọn tự nhiên hơn. Nếu khối lượng công việc tập trung vào lý luận phức tạp, kỹ thuật phần mềm, tương tác terminal và tác tử chạy dài, MiMo-V2.5-Pro phù hợp hơn.

Hạn chế của MiMo-V2.5-Pro

1. Chỉ đầu vào văn bản

Không giống mimo-v2.5, thông số chính thức của bản Pro liệt kê Text là phương thức đầu vào. Không nên tiếp thị nó như mô hình đa phương thức trong họ V2.5.

2. Nhu cầu tính toán cao khi tự triển khai

Mô hình có khoảng 1T tổng tham số / 42B tham số hoạt động, khiến việc triển khai cục bộ đòi hỏi nhiều hơn đáng kể so với các mô hình mở nhỏ thông thường.

3. Hiệu năng tác tử phụ thuộc vào framework

Tuyên bố gần 1,000 lần gọi công cụ của Xiaomi được gắn rõ ràng với việc sử dụng một framework Tác tử phù hợp. Chỉ riêng mô hình không đảm bảo ứng dụng đạt cùng hiệu năng dài hạn.

4. Xử lý nội dung lập luận

Các ứng dụng Tác tử đa lượt sử dụng chế độ suy nghĩ và gọi công cụ cần bảo toàn đúng reasoning_content. Xử lý không đúng có thể gây lỗi API.

Trường hợp sử dụng tốt nhất

Kỹ thuật phần mềm quy mô lớn

• Di trú kho mã
• Tái cấu trúc
• Gỡ lỗi
• Sinh kiểm thử
• Phát triển trình biên dịch
• Phát triển ứng dụng full-stack

Tác tử lập trình tự động

MiMo-V2.5-Pro đặc biệt phù hợp với các Tác tử cần lặp lại:

kiểm tra → sửa đổi → thực thi → kiểm thử → chẩn đoán → sửa đổi

Lý luận trên tài liệu dài

Ngữ cảnh 1M khiến nó hữu ích cho:

• Hợp đồng pháp lý
• Thông số kỹ thuật
• Bộ sưu tập nghiên cứu lớn
• Tài liệu doanh nghiệp

Tác tử doanh nghiệp phức tạp

Gọi công cụ + tìm kiếm web + đầu ra có cấu trúc có thể hỗ trợ:

• Tác tử nghiên cứu
• Tác tử xử lý dữ liệu
• Tự động hóa quy trình doanh nghiệp
• Hệ thống quyết định nhiều bước

Cách sử dụng API MiMo-V2.5-Pro trên CometAPI

Model ID liên quan trên CometAPI là:

mimo-v2.5-pro

Đối với nhà phát triển, một lớp tổng hợp API đặc biệt hữu ích để thử nghiệm MiMo-V2.5-Pro so với các mô hình lý luận và tác tử cao cấp khác mà không cần duy trì tích hợp nhà cung cấp độc lập.

Bước 1: Lấy CometAPI API Key

Tạo hoặc đăng nhập tài khoản CometAPI và lấy API key từ bảng điều khiển API.

Thiết lập biến môi trường:

export COMETAPI_KEY="YOUR_COMETAPI_KEY"

Bước 2: Cấu hình API Client

Xiaomi cung cấp API tương thích với cả hai giao thức OpenAI và Anthropic, giúp việc di chuyển tương đối đơn giản. Với tích hợp sản xuất, hãy dùng endpoint/schema hiện tại của CometAPI cho mimo-v2.5-pro, đặc biệt nếu bạn cần các tính năng nâng cao như gọi công cụ, streaming, đầu ra có cấu trúc hoặc yêu cầu ngữ cảnh dài.

Bước 3: Kết nối MiMo-V2.5-Pro với các công cụ

Mô hình trở nên hữu ích hơn nhiều khi được kết nối với các công cụ bên ngoài.

Ví dụ:

                    ┌── Web Search
                    │
User → MiMo-V2.5-Pro ├── GitHub
                    │
                    ├── Terminal
                    │
                    ├── Database
                    │
                    └── Internal APIs
                           ↓
                     Tool Results
                           ↓
                    MiMo-V2.5-Pro
                           ↓
                      Final Result

Kiến trúc này phù hợp hơn nhiều với mục đích sử dụng của mô hình so với tích hợp chatbot đơn giản.