Mistral 3 是 Mistral AI 最新且雄心勃勃的發佈 —— 一整套開放權重模型家族,並行在多個方向上推進:旗艦規模的稀疏專家化(sparse-expert)擴展、面向邊緣與本地部署的緊湊型稠密變體、長上下文多模態,以及鼓勵真實世界使用與研究的寬鬆開源授權。
什麼是 Mistral 3?
Mistral 3 是由 Mistral AI 於 2025 年下半年發佈的開放權重多模態語言模型「家族」。該家族包含三個稠密(非稀疏)緊湊模型 —— Ministral 3 的 3B、8B 與 14B 參數版本 —— 以及旗艦級的 Mistral Large 3:一個稀疏專家混合(MoE)模型,總參數約 675B,推理時活躍參數約 41B。所有模型均以 Apache 2.0 授權釋出,並提供壓縮格式以支援廣泛分發與本地部署。Mistral 強調的關鍵特性包括多模態能力、超長上下文視窗(Large:最高可達 256K tokens),以及針對現代加速器的最佳化。
Mistral 3 重要的三個原因:
- Range —— 家族涵蓋從小型到前沿規模(3B / 8B / 14B 稠密 Ministral 變體與 675B 參數 MoE),可在成本/效能折衷間,實現一致的研究與生產工作流程。
- Openness —— Mistral 以 Apache-2.0 授權釋出模型與權重,並在 Hugging Face 等平台提供可部署的工件,加速採用。
- Engineering focus —— Large 3 採用精細粒度的 MoE 架構,總參數極大,但推理時的「活躍」參數集更小,旨在以更佳吞吐與成本效率,為特定工作負載提供接近前沿的能力。
Mistral 3 系列概覽
Ministral 3 — 14B (Ministral 3 14B)
What it is: 緊湊/邊緣「Ministral」產品線中最大的稠密(非 MoE)模型:高品質的 140 億參數多模態模型,提供 Base / Instruct / Reasoning 變體,並針對文字 + 圖像理解與指令跟隨進行調校。
