Mistral Small 4 部落格

如何在本機上執行 Mistral Small 4

Mistral Small 4 是 Mistral AI 於 2026 年 3 月發布的開放權重多模態 AI 模型，將推理、程式設計與視覺能力融合於單一架構中。它可透過 Ollama、vLLM 或 llama.cpp（量化）等框架在本地部署，需配備 GPU（建議 ≥24GB VRAM）或支援量化的高階 CPU。其關鍵優勢是在推理成本與延遲顯著降低的同時提供高效能，非常適合裝置端 AI 應用。