Mistral Small 4 博客 - 所有 AI 模型都集中在一个 API 中

Mar 23, 2026

如何在本地运行 Mistral Small 4

Mistral Small 4 是 Mistral AI 于 2026 年 3 月新发布的开放权重多模态 AI 模型，在单一架构中结合了推理、编码和视觉能力。它可以使用 Ollama、vLLM 或 llama.cpp（量化版）等框架在本地部署，通常需要 GPU（建议 ≥24GB VRAM）或配合量化的高端 CPU。其关键优势是在显著更低的推理成本和延迟下实现高性能，使其非常适合设备端 AI 应用。