Mistral Small 4 블로그

로컬에서 Mistral Small 4를 실행하는 방법
Mar 23, 2026
Mistral Small 4

로컬에서 Mistral Small 4를 실행하는 방법

Mistral Small 4는 Mistral AI가 2026년 3월에 새롭게 공개한 오픈 웨이트 멀티모달 AI 모델로, 추론, 코딩, 비전 기능을 단일 아키텍처에 결합했습니다. 이 모델은 Ollama, vLLM 또는 llama.cpp(양자화)와 같은 프레임워크를 사용해 로컬에 배포할 수 있으며, GPU(권장 VRAM ≥24GB) 또는 양자화를 적용한 고성능 CPU가 필요합니다. 핵심 장점은 추론 비용과 지연 시간을 크게 낮추면서도 높은 성능을 제공한다는 점으로, 온디바이스 AI 애플리케이션에 이상적입니다.