MiMo V2.6 Flash API

MiMo-V2.6-Flash là gì?

MiMo-V2.6-Flash là mô hình tập trung vào hiệu suất trong họ MiMo-V2.6 của Xiaomi. Đây là mô hình suy luận đa phương thức thuần, được thiết kế cho các lượt gọi tần suất cao, khối lượng công việc quy mô lớn, lập trình, tự động hóa và các nhiệm vụ tác tử dài hạn.

Mô hình chấp nhận đầu vào là văn bản, hình ảnh, video và âm thanh và tạo đầu ra dạng văn bản. Xiaomi mô tả đây là mô hình toàn phương thức được tối ưu cho quy trình công việc thực tế, với cửa sổ ngữ cảnh 1 triệu token, tư duy sâu, gọi công cụ, đầu ra có cấu trúc, phát trực tuyến, tìm kiếm web và khả năng lưu bộ nhớ đệm ngữ cảnh.

Checkpoint MiMo-V2.6-Flash-RL có trọng số mở sử dụng kiến trúc Mixture-of-Experts thưa với 309 tỷ tham số tổng và 15 tỷ tham số được kích hoạt. Thẻ mô hình mô tả độ dài ngữ cảnh 1M token, bộ mã hóa thị giác 681M tham số, các bộ mã hóa âm thanh và bộ giải mã suy đoán 5 tầng.

Thông số kỹ thuật

Trang mô hình chính thức của Xiaomi liệt kê cửa sổ ngữ cảnh 1M token, tối đa 128K token đầu ra, 100 RPM và 10M TPM.

Các tính năng chính của MiMo-V2.6-Flash

1. Hiểu biết toàn phương thức thuần

MiMo-V2.6-Flash được thiết kế để xử lý văn bản, hình ảnh, video và âm thanh trong cùng một mô hình. Điều này phù hợp cho các ứng dụng mà thông tin được phân bố trên nhiều định dạng phương tiện thay vì chỉ nằm trong văn bản.

Ứng dụng điển hình gồm phân tích tài liệu đa phương thức, kiểm tra trực quan, hiểu video, nghiên cứu dựa trên âm thanh và các quy trình kết hợp nhiều loại bằng chứng.

2. Ngữ cảnh dài 1M token

Mô hình hỗ trợ cửa sổ ngữ cảnh lên đến 1 triệu token, phù hợp với kho lưu trữ lớn, tài liệu dài, dấu vết công cụ mở rộng và quy trình tác tử đa phiên. Xiaomi định vị mô hình này đặc biệt cho các nhiệm vụ dài hạn và cộng tác đa tác tử.

Dung lượng ngữ cảnh lớn này có thể giảm nhu cầu phải tóm tắt hoặc chia nhỏ khối thông tin lớn trước khi xử lý.

3. Suy luận và quy trình công việc hướng tác tử

MiMo-V2.6-Flash được xây dựng xoay quanh các khối lượng công việc hướng suy luận và tác tử. Danh sách năng lực chính thức bao gồm tư duy sâu và gọi công cụ, trong khi thẻ mô tả mô hình đề cập đến học tăng cường hỗn hợp trên các lĩnh vực lập trình, tác tử tổng quát, nhiệm vụ thị giác và an ninh mạng.

Điều này khiến mô hình phù hợp với các ứng dụng như:

• Tác tử nghiên cứu nhiều bước
• Tác tử lập trình
• Điều phối công cụ
• Quy trình sử dụng máy tính
• Phân tích tự động
• Nhiệm vụ lập kế hoạch kéo dài

4. Gọi công cụ và đầu ra có cấu trúc

Mô hình hỗ trợ gọi công cụ và đầu ra có cấu trúc, cho phép tham gia vào các ứng dụng nơi mô hình cần gọi các hàm bên ngoài hoặc trả về thông tin theo định dạng có thể đọc được bằng máy.

Điều này đặc biệt hữu ích cho các hệ thống tác tử kết nối LLM với tìm kiếm, cơ sở dữ liệu, API, công cụ doanh nghiệp hoặc các chức năng ứng dụng khác.

5. Năng lực tác tử đa phương thức

MiMo-V2.6-Flash kết hợp khả năng hiểu đa phương thức với suy luận hướng tác tử. Thay vì coi việc xử lý hình ảnh, video, âm thanh và văn bản là các nhiệm vụ mô hình riêng biệt, nó cung cấp giao diện mô hình thống nhất cho các đầu vào này.

Kiến trúc này hữu ích cho các quy trình như rà soát tài liệu kỹ thuật cùng với sơ đồ, phân tích cuộc họp đã ghi, kiểm tra bằng chứng video, hoặc kết hợp ảnh chụp màn hình với hướng dẫn dạng văn bản.

6. Thiết kế MiMo-V2.6 hướng hiệu suất

Biến thể Flash được Xiaomi định vị là thành viên cân bằng hiệu suất trong họ MiMo-V2.6. Thiết kế MoE thưa của nó kích hoạt một tập con tham số cho mỗi token thay vì sử dụng toàn bộ kho tham số cho mọi token.

Mô hình cũng sử dụng bộ giải mã suy đoán 5 tầng dự đoán nhiều token tiếp theo để xác minh song song, một cách tiếp cận kiến trúc nhằm cải thiện hiệu quả suy luận.

Hiệu năng chuẩn đo lường

Bảng đánh giá do Xiaomi công bố báo cáo kết quả của MiMo-V2.6-Flash trên các chuẩn liên quan đến lập trình, tác tử tổng quát, an ninh mạng và tác tử thị giác. Đây là kết quả chuẩn do nhà cung cấp công bố, vì vậy không nên coi là xếp hạng độc lập của bên thứ ba.

Ví dụ, Xiaomi báo cáo 87.6 trên Terminal Bench 2.1, 80.8 trên OSWorld-Verified, 73.6 trên Toolathlon-Verified, và 95.1 trên CyberGym.

Hồ sơ chuẩn đo lường cho thấy mô hình được thiết kế đặc biệt xoay quanh các quy trình công việc hướng tác tử, lập trình, sử dụng công cụ và đa phương thức thay vì chỉ định vị như một mô hình hội thoại truyền thống.

MiMo-V2.6-Flash so với MiMo-V2.6-Pro

MiMo-V2.6-Flash và MiMo-V2.6-Pro thuộc cùng một họ mô hình và chia sẻ thiết kế đa phương thức thuần với ngữ cảnh 1M, nhưng chúng nhắm đến các điểm khác nhau trên phổ hiệu suất mô hình.

Kiến trúc đã công bố cho thấy mẫu Pro có 1.02T tham số tổng / 42B tham số kích hoạt, so với Flash là 309B tham số tổng / 15B tham số kích hoạt.

MiMo-V2.6-Flash so với các mô hình khác

MiMo-V2.6-Flash chiếm vị trí khác biệt trong số các mô hình suy luận đa phương thức hiện đại vì nó kết hợp bốn đặc tính trong một mô hình: ngữ cảnh dài, đầu vào đa phương thức thuần, suy luận và sử dụng công cụ hướng tác tử.

So với mô hình suy luận chỉ văn bản thông thường, MiMo-V2.6-Flash có thể trực tiếp kết hợp hình ảnh, video và âm thanh. So với mô hình đa phương thức nhỏ hơn, cửa sổ ngữ cảnh 1M token khiến nó phù hợp hơn với kho lớn và hành trình tác tử mở rộng. So với MiMo-V2.6-Pro lớn hơn, Flash nhấn mạnh kiến trúc định hướng hiệu suất hơn.

Các trường hợp sử dụng tiêu biểu

Lập trình và kỹ nghệ phần mềm

MiMo-V2.6-Flash có thể dùng cho sinh mã, gỡ lỗi, phân tích kho mã, lập kế hoạch phần mềm và các quy trình phát triển hướng tác tử.

Kết quả đã công bố bao gồm các đánh giá DeepSWE v1.1, ProgramBench, MiMo Code Bench và Terminal Bench.

Phân tích tài liệu ngữ cảnh dài

Cửa sổ ngữ cảnh 1M token khiến mô hình phù hợp để phân tích bộ sưu tập tài liệu lớn, đặc tả kỹ thuật, tài liệu nghiên cứu hoặc lịch sử dự án dài mà không cần giảm mạnh ngữ cảnh sẵn có.

Nghiên cứu đa phương thức

Vì mô hình chấp nhận văn bản, hình ảnh, video và âm thanh, nó có thể kết hợp thông tin từ các nguồn phương tiện khác nhau trong một quy trình suy luận duy nhất.

Tác tử và tự động hóa công cụ

Gọi công cụ, đầu ra có cấu trúc, suy luận và ngữ cảnh dài khiến mô hình phù hợp cho các tác tử cần lập kế hoạch nhiệm vụ, gọi công cụ bên ngoài, kiểm tra kết quả và tiếp tục suy luận qua nhiều bước.

Quy trình sử dụng máy tính

Kết quả OSWorld-Verified 80.8 được công bố và các chuẩn tác tử khác cho thấy Xiaomi đánh giá mô hình trên các nhiệm vụ tác tử tương tác bên cạnh các chuẩn mô hình ngôn ngữ truyền thống.

Quy trình kinh doanh đa phương thức

MiMo-V2.6-Flash có thể hỗ trợ các quy trình liên quan đến báo cáo, ảnh chụp màn hình, bản ghi, thuyết trình, tài liệu và thông tin doanh nghiệp đa phương tiện khác, nơi một mô hình cần tổng hợp nhiều loại đầu vào.

Hạn chế

MiMo-V2.6-Flash là mô hình mới phát hành, vì vậy độ phủ chuẩn đo lường và đánh giá độc lập bên thứ ba vẫn đang phát triển. Bảng chuẩn do Xiaomi công bố cung cấp bằng chứng đáng kể trên các nhiệm vụ hướng tác tử và đa phương thức, nhưng những kết quả này do nhà cung cấp báo cáo và không thay thế cho thử nghiệm cụ thể theo ứng dụng.

Mô hình cũng có kiến trúc nền lớn mặc dù kích hoạt thưa. Các tổ chức cân nhắc tự lưu trữ nên đánh giá phần cứng, khả năng tương thích engine suy luận, lượng tử hóa, thông lượng và yêu cầu vận hành thay vì giả định rằng con số 15B tham số kích hoạt đại diện cho dấu chân triển khai tổng thể. Thẻ mô hình chính thức cung cấp hướng dẫn triển khai cho SGLang và vLLM.

Cách truy cập API MiMo-V2.6-Flash qua CometAPI

Bước 1: Đăng ký CometAPI và lấy khóa API CometAPI của bạn

Tạo hoặc truy cập tài khoản CometAPI của bạn và mở khu vực quản lý API. Tạo khóa API từ tài khoản CometAPI và lưu để cấu hình ứng dụng.

Bước 2: Chọn MiMo-V2.6-Flash và cấu hình ứng dụng của bạn

Tìm MiMo-V2.6-Flash trong danh mục mô hình sẵn có và xác nhận ID mô hình là mimo-v2.6-flash. Đặt MiMo-V2.6-Flash làm mô hình mục tiêu trong tích hợp CometAPI của bạn. Cấu hình yêu cầu theo đầu vào đa phương thức và năng lực tác tử mà ứng dụng của bạn cần.

Bước 3: Gửi yêu cầu

Gửi văn bản hoặc đầu vào đa phương thức được hỗ trợ thông qua tích hợp CometAPI và sử dụng phản hồi mô hình trả về trong quy trình công việc ứng dụng của bạn.

Bước 4: Xử lý phản hồi

Xử lý văn bản sinh, đầu ra có cấu trúc, kết quả suy luận hoặc thông tin gọi công cụ theo quy trình công việc của ứng dụng bạn.