Mistral Small 4

Mar 23, 2026
Mistral Small 4

如何在本地运行 Mistral Small 4

Mistral Small 4 是 Mistral AI 于 2026 年 3 月新发布的开放权重多模态 AI 模型,在单一架构中结合了推理、编码和视觉能力。它可以使用 Ollama、vLLM 或 llama.cpp(量化版)等框架在本地部署,通常需要 GPU(建议 ≥24GB VRAM)或配合量化的高端 CPU。其关键优势是在显著更低的推理成本和延迟下实现高性能,使其非常适合设备端 AI 应用。