Mistral Large 3, Mistral AI tarafından 2025 Aralık ayının başlarında yayımlanan en yeni “frontier” model ailesidir. Granüler, seyrek Uzmanlar Karışımı (MoE) tasarımına dayanan, açık ağırlıklı, üretim odaklı, çok modlu bir temel modeldir; çıkarımı seyreklik ve modern niceleme ile pratik tutarken “frontier” düzeyinde akıl yürütme, uzun bağlam anlama ve görsel + metin yetenekleri sunmak üzere tasarlanmıştır. Varsayılan yapılandırmada 675 milyar toplam parametre, çıkarımda ~41 milyar aktif parametre ve 256k token bağlam penceresine sahiptir — her çıkarımın tüm parametrelere dokunmasını zorlamadan hem yeteneği hem ölçeği ileri taşımak için tasarlanmış bir kombinasyon.
Mistral Large 3 nedir? Nasıl çalışır?
Mistral Large 3 nedir?
Mistral Large 3, Mistral 3 ailesinin Mistral AI’ye ait amiral gemisi “frontier” modelidir — Apache-2.0 lisansı altında yayımlanan büyük, açık ağırlıklı, çok modlu Uzmanlar Karışımı (MoE) model. Akıl yürütme, kodlama, uzun bağlam anlama, çok modlu görevler gibi “frontier” kabiliyeti sunarken, her token için yalnızca bir alt küme uzmanın etkinleştirilmesiyle çıkarım hesaplamasını seyrek tutmak üzere tasarlanmıştır. Mistral’ın resmi materyallerinde Large 3’ün ~675 milyar toplam parametreye ve bir ileri geçişte kullanılan yaklaşık 40–41 milyar aktif parametreye sahip olduğu; bir görüntü kodlayıcı içerdiği ve çok uzun bağlam pencerelerini (Mistral ve ortakları tarafından 256k tokena kadar) destekleyecek şekilde tasarlandığı belirtilir.
Kısaca: MoE, toplamda çok büyük kapasite (çeşitli uzmanlıkları barındırabilmesi) sunarken çıkarımda çok daha küçük bir aktif alt kümeyle hesaplama yapar — benzer toplam boyuttaki yoğun bir modele göre frontier performansını daha verimli vermeyi hedefler.
Çekirdek mimari: Granüler Uzmanlar Karışımı (MoE)
Yüksek seviyede, Mistral Large 3 bazı (veya birçok) dönüştürücü feed-forward alt katmanını MoE katmanları ile değiştirir. Her MoE katmanı şunları içerir:
- Birçok uzman — bağımsız alt ağlar (normalde FFN blokları). Birlikte modelin çok büyük toplam parametre sayısını üretirler (ör. yüz milyarlar).
- Yönlendirici / kapılama ağı — token gösterimine bakarak o token’ı hangi uzmanın/uzmanların işlemesi gerektiğine karar veren küçük bir ağ. Modern MoE yönlendiricileri tipik olarak yalnızca en iyi k uzmanı seçer (seyrek kapılama), çoğunlukla k=1 veya k=2, böylece hesaplama düşük kalır.
- Seyrek etkinleştirme — herhangi bir token için yalnızca seçilen uzmanlar çalışır; diğerleri atlanır. Verimlilik buradan gelir: depolanan toplam parametreler >> token başına hesaplanan aktif parametreler.
Mistral, tasarımını granüler MoE olarak adlandırarak çok sayıda küçük/uzmanlaşmış uzmana ve çoklu GPU’lar ile uzun bağlamlar boyunca ölçeklenecek şekilde optimize edilmiş bir yönlendirme şemasına vurgu yapar. Sonuç: çok büyük temsili kapasite, token başına hesaplamayı çok daha küçük bir yoğun modele yakın tutarken, Toplam Parametreler:
- Toplam Parametreler: 675 milyar; her uzman ve dönüştürücünün geri kalanı boyunca depolanan tüm parametrelerin toplamı. Bu sayı, modelin brüt kapasitesini (ne kadar bilgi ve uzmanlığı barındırabileceğini) gösterir.
- Aktif Parametreler: 41 milyar. yönlendirici her token için yalnızca birkaç uzmanı etkinleştirdiğinden, tipik bir ileri geçişte gerçekte kullanılan/hesaplanan parametrelerin alt kümesi. Bu metrik, istek başına çıkarım hesaplaması ve bellek kullanımıyla daha yakından ilişkilidir. Mistral’ın kamuya açık materyalleri ~41B aktif parametre listeler; bazı model sayfaları belirli varyantlar için (ör. 39B) hafifçe farklı sayımlar gösterir — bu, varyant/instruct sürümlerini veya yuvarlamayı yansıtabilir.
Eğitim yapılandırması:
- 3000 NVIDIA H200 GPU kullanılarak sıfırdan eğitildi;
- Veriler birden çok dili, görevi ve modallığı kapsar;
- Görsel girdi ve diller arası çıkarımı destekler.
Mistral Large 3 özellik tablosu
| Category | Technical Capability Description |
|---|---|
| Multimodal Understanding | Diyalog sırasında görsel içeriğin anlaşılmasını sağlayan, görsel girdi ve analizi destekler. |
| Multilingual Support | Doğal olarak 10+ ana dili destekler (İngilizce, Fransızca, İspanyolca, Almanca, İtalyanca, Portekizce, Hollandaca, Çince, Japonca, Korece, Arapça, vb.). |
| System Prompt Support | Sistem talimatları ve bağlamsal istemlerle yüksek tutarlılık, karmaşık iş akışlarına uygundur. |
| Agent Capabilities | Yerel fonksiyon çağrısı ve yapılandırılmış JSON çıktısını destekler; doğrudan araç çağrısı veya harici sistem entegrasyonu sağlar. |
| Context Window | 256K token’lık ultra uzun bağlam penceresini destekler; açık kaynak modeller arasında en uzunlardan. |
| Performance Positioning | Güçlü uzun bağlam anlama ve istikrarlı çıktı ile üretim düzeyi performans. |
| Open-source License | Apache 2.0 Lisansı; ticari değişiklik için serbestçe kullanılabilir. |
Overview:
- Performans, ana akım kapalı kaynak modellerle karşılaştırılabilir;
- Çok dilli görevlerde olağanüstü performans (özellikle İngilizce ve Çince dışı senaryolarda);
- Görüntü anlama ve talimat izleme yeteneklerine sahiptir;
- Temel (Base) ve talimat için optimize edilmiş (Instruct) sürüm sunar; çıkarım için optimize edilmiş (Reasoning) sürüm yakında geliyor.
Mistral Large 3 kıyaslamalarda nasıl performans gösteriyor?
Erken kamu kıyaslamaları ve lider tabloları, Mistral Large 3’ün açık kaynak modeller arasında üst sıralarda yer aldığını gösteriyor: LMArena’da OSS non-reasoning modellerinde #2 yerleşimi ve çeşitli standart görevlerde (ör. GPQA, MMLU ve diğer akıl yürütme/genel bilgi paketleri) üst düzey liderlik konumları.
![Mistral Large 3, Mistral AI tarafından 2025 Aralık ayının başlarında yayımlanan en yeni “frontier” model ailesidir. Granüler, seyrek Uzmanlar Karışımı (MoE) tasarımına dayanan, açık ağırlıklı, üretim odaklı, çok modlu bir temel modeldir; çıkarımı seyreklik ve modern niceleme ile pratik tutarken “frontier” düzeyinde akıl yürütme, uzun bağlam anlama ve görsel + metin yetenekleri sunmak üzere tasarlanmıştır. Mistral Large 3’ün 675 milyar toplam parametreye ve çıkarımda ~41 milyar aktif parametreye sahip olduğu, varsayılan yapılandırmada 256k token bağlam penceresi sunduğu — her çıkarımın tüm parametrelere dokunmasını zorlamadan hem yeteneği hem ölçeği ileri taşımak için tasarlanmış bir kombinasyon olduğu belirtilir.
Mistral Large 3 nedir? Nasıl çalışır?
Mistral Large 3 nedir?
Mistral Large 3, Mistral 3 ailesinin Mistral AI’ye ait amiral gemisi “frontier” modelidir — Apache-2.0 lisansı altında yayımlanan büyük, açık ağırlıklı, çok modlu Uzmanlar Karışımı (MoE) model. Akıl yürütme, kodlama, uzun bağlam anlama, çok modlu görevler gibi “frontier” kabiliyeti sunarken, her token için yalnızca bir alt küme uzmanın etkinleştirilmesiyle çıkarım hesaplamasını seyrek tutmak üzere tasarlanmıştır.
Mistral Large 3, Uzmanlar Karışımı (MoE) yaklaşımını benimser: her token için her parametreyi etkinleştirmek yerine, model token işlemeyi bir alt küme uzman alt ağlara yönlendirir. Large 3 için yayımlanan sayımlar, yaklaşık 41 milyar aktif parametre (bir token için tipik olarak katılan parametreler) ve tüm uzmanlar boyunca 675 milyar toplam parametredir — hesaplama verimliliği ile model kapasitesi arasında ideal noktayı hedefleyen seyrek ama devasa bir tasarım. Model ayrıca son derece uzun bir bağlam penceresini (belgelendirilmiş şekilde 256k token) ve çok modlu girdileri (metin + görsel) destekler.
Kısaca: MoE, toplamda çok büyük kapasite (çeşitli uzmanlıkları barındırabilmesi) sunarken çıkarımda çok daha küçük bir aktif alt kümeyle hesaplama yapar — benzer toplam boyuttaki yoğun bir modele göre frontier performansını daha verimli vermeyi hedefler.
Çekirdek mimari: Granüler Uzmanlar Karışımı (MoE)
Yüksek seviyede, Mistral Large 3 bazı (veya birçok) dönüştürücü feed-forward alt katmanını MoE katmanları ile değiştirir. Her MoE katmanı şunları içerir:
- Birçok uzman — bağımsız alt ağlar (normalde FFN blokları). Birlikte modelin çok büyük toplam parametre sayısını üretirler (ör. yüz milyarlar).
- Yönlendirici / kapılama ağı — token gösterimine bakarak o token’ı hangi uzmanın/uzmanların işlemesi gerektiğine karar veren küçük bir ağ. Modern MoE yönlendiricileri tipik olarak yalnızca en iyi k uzmanı seçer (seyrek kapılama), çoğunlukla k=1 veya k=2, böylece hesaplama düşük kalır.
- Seyrek etkinleştirme — herhangi bir token için yalnızca seçilen uzmanlar çalışır; diğerleri atlanır. Verimlilik buradan gelir: depolanan toplam parametreler >> token başına hesaplanan aktif parametreler.
Mistral, tasarımını granüler MoE olarak adlandırarak çok sayıda küçük/uzmanlaşmış uzmana ve çoklu GPU’lar ile uzun bağlamlar boyunca ölçeklenecek şekilde optimize edilmiş bir yönlendirme şemasına vurgu yapar. Sonuç: çok büyük temsili kapasite, token başına hesaplamayı çok daha küçük bir yoğun modele yakın tutarken, Toplam Parametreler:
- Toplam Parametreler: 675 milyar; her uzman ve dönüştürücünün geri kalanı boyunca depolanan tüm parametrelerin toplamı. Bu sayı, modelin brüt kapasitesini (ne kadar bilgi ve uzmanlığı barındırabileceğini) gösterir.
- Aktif Parametreler: 41 milyar. yönlendirici her token için yalnızca birkaç uzmanı etkinleştirdiğinden, tipik bir ileri geçişte gerçekte kullanılan/hesaplanan parametrelerin alt kümesi. Bu metrik, istek başına çıkarım hesaplaması ve bellek kullanımıyla daha yakından ilişkilidir. Mistral’ın kamuya açık materyalleri ~41B aktif parametre listeler; bazı model sayfaları belirli varyantlar için (ör. 39B) hafifçe farklı sayımlar gösterir — bu, varyant/instruct sürümlerini veya yuvarlamayı yansıtabilir.
Eğitim yapılandırması:
- 3000 NVIDIA H200 GPU kullanılarak sıfırdan eğitildi;
- Veriler birden çok dili, görevi ve modallığı kapsar;
- Görsel girdi ve diller arası çıkarımı destekler.
Mistral Large 3 özellik tablosu
| Category | Technical Capability Description |
|---|---|
| Multimodal Understanding | Diyalog sırasında görsel içeriğin anlaşılmasını sağlayan, görsel girdi ve analizi destekler. |
| Multilingual Support | Doğal olarak 10+ ana dili destekler (İngilizce, Fransızca, İspanyolca, Almanca, İtalyanca, Portekizce, Hollandaca, Çince, Japonca, Korece, Arapça, vb.). |
| System Prompt Support | Sistem talimatları ve bağlamsal istemlerle yüksek tutarlılık, karmaşık iş akışlarına uygundur. |
| Agent Capabilities | Yerel fonksiyon çağrısı ve yapılandırılmış JSON çıktısını destekler; doğrudan araç çağrısı veya harici sistem entegrasyonu sağlar. |
| Context Window | 256K token’lık ultra uzun bağlam penceresini destekler; açık kaynak modeller arasında en uzunlardan. |
| Performance Positioning | Güçlü uzun bağlam anlama ve istikrarlı çıktı ile üretim düzeyi performans. |
| Open-source License | Apache 2.0 Lisansı; ticari değişiklik için serbestçe kullanılabilir. |
Overview:
- Performans, ana akım kapalı kaynak modellerle karşılaştırılabilir;
- Çok dilli görevlerde olağanüstü performans (özellikle İngilizce ve Çince dışı senaryolarda);
- Görüntü anlama ve talimat izleme yeteneklerine sahiptir;
- Temel (Base) ve talimat için optimize edilmiş (Instruct) sürüm sunar; çıkarım için optimize edilmiş (Reasoning) sürüm yakında geliyor.
Mistral Large 3 kıyaslamalarda nasıl performans gösteriyor?
Erken kamu kıyaslamaları ve lider tabloları, Mistral Large 3’ün açık kaynak modeller arasında üst sıralarda yer aldığını gösteriyor: LMArena’da OSS non-reasoning modellerinde #2 yerleşimi ve çeşitli standart görevlerde (ör. GPQA, MMLU ve diğer akıl yürütme/genel bilgi paketleri) üst düzey liderlik konumları.]()
Şimdiye kadar gösterilen güçlü yönler
- Uzun belge kavrama ve alma-ile zenginleştirilmiş görevler: Uzun bağlam ile seyrek kapasitenin birleşimi, Mistral Large 3’e uzun bağlam görevlerinde (belge Soru-Cevap, büyük belgeler üzerinden özetleme) avantaj sağlar.
- Genel bilgi ve talimat izleme: Instruct ayarlı varyantlarda Mistral Large 3, birçok “genel asistan” görevinde ve sistem istemine uyumda güçlüdür.
- Enerji ve iş hacmi (optimize donanımda): NVIDIA’nın analizi, Mistral Large 3 GB200 NVL72 üzerinde MoE’ye özgü optimizasyonlarla çalıştırıldığında etkileyici enerji verimliliği ve iş hacmi kazançlarını gösterir — bu sayılar doğrudan token başı maliyet ve kurumsal ölçeklenebilirliğe yansır.
Mistral Large 3’e nasıl erişebilir ve kullanabilirsiniz?
Barındırılan bulut erişimi (hızlı yol)
Mistral Large 3 birden çok bulut ve platform ortağı üzerinden sunulur:
- Hugging Face, model kartlarını ve çıkarım paketlerini (instruct varyantlar ve optimize NVFP4 paketleri dahil) barındırır. Modeli Hugging Face Inference API üzerinden çağırabilir veya uyumlu paketleri indirebilirsiniz.
- Azure / Microsoft Foundry, kurumsal iş yükleri için Mistral Large 3 kullanılabilirliğini duyurdu.
- NVIDIA, GB200/H200 aileleri için hızlandırılmış çalışma zamanları ve optimizasyon notları yayımladı; Red Hat gibi ortaklar vLLM talimatları yayımladı.
Bu barındırılan yollar, MoE çalışma zamanı mühendisliğiyle uğraşmadan hızlı başlamanızı sağlar.
Yerelde veya kendi altyapınızda çalıştırma (ileri)
Mistral Large 3’ü yerelde veya özel altyapıda çalıştırmak mümkündür ancak kolay değildir:
Seçenekler:
- Hugging Face paketleri + accelerate/transformers — daha küçük varyantlar için veya bir GPU çiftliğiniz ve uygun parçalama araçlarınız varsa kullanılabilir. Model kartı, platforma özgü kısıtları ve önerilen biçimleri (ör. NVFP4) listeler.
- vLLM — büyük LLM’ler ve uzun bağlamlar için optimize bir çıkarım sunucusu; Red Hat ve diğer ortaklar, Mistral Large 3’ü vLLM üzerinde verimli iş hacmi ve gecikme için çalıştırma rehberleri yayımladı.
- Uzman yığınlar (NVIDIA Triton / NVL72 / özel çekirdekler) — ölçekli kullanımda en iyi gecikme/verimlilik için gereklidir; NVIDIA, Mistral 3’ü GB200/H200 ve NVL72 çalışma zamanlarıyla hızlandırma üzerine bir blog yayımladı.
- Ollama / yerel VM yöneticileri — topluluk rehberleri (Ollama, Docker) denemeler için yerel kurulumlar gösterir; büyük RAM/GPU ayak izi ve varyantlar veya nicelemeli denetim noktaları kullanımı beklenir.
Örnek: Hugging Face çıkarım (python)
Bu, Hugging Face Inference API’yi kullanan basit bir örnektir (instruct varyantları için uygundur). Model kartındaki HF_API_KEY ve MODEL değerleriyle değiştirin:
# Example: call Mistral Large 3 via Hugging Face Inference APIimport requests, json, osHF_API_KEY = os.environ.get("HF_API_KEY")MODEL = "mistralai/Mistral-Large-3-675B-Instruct-2512"headers = {"Authorization": f"Bearer {HF_API_KEY}", "Content-Type": "application/json"}payload = { "inputs": "Summarize the following document in 3 bullet points: <paste your long text here>", "parameters": {"max_new_tokens": 256, "temperature": 0.0}}r = requests.post(f"https://api-inference.huggingface.co/models/{MODEL}", headers=headers, data=json.dumps(payload))print(r.json())
Not: Çok uzun bağlamlar için (on binlerce token), sağlayıcının akış/parçalama önerilerini ve model varyantının desteklenen bağlam uzunluğunu kontrol edin.
Örnek: bir vLLM sunucusu başlatma (kavramsal)
vLLM, işletmeler tarafından kullanılan yüksek performanslı bir çıkarım sunucusudur. Aşağıda kavramsal bir başlatma vardır (bayraklar, model yolu ve MoE desteği için vLLM belgelerini kontrol edin):
# conceptual example — adjust to your environment and model pathvllm --model-path /models/mistral-large-3-instruct \ --num-gpus 4 \ --max-batch-size 8 \ --max-seq-len 65536 \ --log-level info
Ardından vLLM Python istemcisi veya HTTP API ile istek gönderin. MoE modelleri için vLLM derlemesi ve çalışma zamanının seyrek uzman çekirdeklerini ve model denetim noktası biçimini (NVFP4/FP8/BF16) desteklediğinden emin olmalısınız.
Mistral Large 3’ü dağıtmaya yönelik pratik en iyi uygulamalar
Doğru varyantı ve sayısal hassasiyeti seçin
- Asistan iş akışları için talimat ayarlı bir denetim noktasıyla başlayın (model ailesi bir Instruct varyantı sunar). Kendi talimat ayarlamanızı uygulamayı planlıyorsanız yalnızca temel modelleri kullanın.
- Donanımınız için mevcutsa optimize düşük hassasiyetli varyantları (NVFP4, FP8, BF16) kullanın; satıcı tarafından üretilip doğrulanmışsa, küçük kalite kayıplarıyla çok büyük verimlilik kazanımları sağlarlar.
Bellek, parçalama ve donanım
- 675B toplam parametreli denetim noktasını tek bir sıradan GPU’da çalıştırmayı beklemeyin — her ne kadar token başına yalnızca ~41B aktif olsa da, tam denetim noktası çok büyüktür ve parçalama stratejileri ile yüksek bellekli hızlandırıcılar (GB200/H200 sınıfı) veya düzenlenmiş CPU+GPU offload gerektirir.
- Model paralelliği + uzman yerleştirmesi kullanın: MoE modelleri, yönlendirme trafiğini dengelemek için uzmanların cihazlar arasında yerleştirilmesinden fayda görür. Satıcı rehberliğini takip edin.
Uzun bağlam mühendisliği
- Parçalayın ve alın: Birçok uzun belge görevinde gecikme ve maliyeti yönetilebilir tutmak için 256k bağlamı bir alma bileşeniyle birleştirin — yani ilgili parçaları alın, ardından modele odaklı bir bağlam geçin.
- Akış ve pencerelleme: Sürekli akışlarda, kayan bir pencereyi koruyun ve daha eski bağlamı yoğunlaştırılmış notlara özetleyin; böylece modelin dikkat bütçesi etkili kalır.
MoE modelleri için istem tasarımı
- Açık talimatları tercih edin: Talimat ayarlı denetim noktaları net görevler ve örneklerle daha iyi yanıt verir. Karmaşık yapılandırılmış çıktı için istemde az örnekli örnekler kullanın.
- Düşünce zinciri ve sistem iletileri: Akıl yürütme görevlerinde, adım adım akıl yürütmeyi teşvik eden ve ara sonuçları doğrulayan istemler yapılandırın. Ancak dikkat: düşünce zinciri istemi, token tüketimini ve gecikmeyi artırır.
Sonuç
Mistral Large 3, açık ağırlık model dünyasında önemli bir dönüm noktasıdır: 675B toplam / ~41B aktif MoE model, 256k bağlam penceresi, çok modlu yetenekler ve büyük altyapı ortaklarıyla birlikte eş-optimize edilmiş dağıtım tarifleri sunar. MoE çalışma zamanı ve donanım yığınını benimseyebilen işletmeler için cazip bir performans/maliyet profili sunarken, yine de özel akıl yürütme görevleri ve operasyonel hazırlık için dikkatli değerlendirme gerektirir.
Başlamak için, Gemini 3 Pro gibi daha fazla AI modelinin yeteneklerini Playground içinde keşfedin ve ayrıntılı talimatlar için API guide bölümüne başvurun. Erişmeden önce, lütfen CometAPI’ye giriş yaptığınızdan ve API anahtarını edindiğinizden emin olun. CometAPI entegrasyonunuza yardımcı olmak için resmi fiyattan çok daha düşük bir fiyat sunar.
Hazır mısınız?→ Sign up for CometAPI today !
