Mistral Small 4 بلاگ - ایک API رسائی 500+ AI ماڈلز

Mar 23, 2026

Mistral Small 4 کو مقامی طور پر کیسے چلائیں

Mistral Small 4، Mistral AI (مارچ 2026) کا نیا جاری کردہ اوپن-ویٹ ملٹی موڈل AI ماڈل ہے جو ایک ہی آرکیٹیکچر میں استدلال، کوڈنگ اور ویژن کی صلاحیتوں کو یکجا کرتا ہے۔ اسے مقامی طور پر Ollama، vLLM، یا llama.cpp (کوانٹائزڈ) جیسے فریم ورکس کے ذریعے تعینات کیا جا سکتا ہے، اور اس کے لیے GPUs (≥24GB VRAM recommended) یا کوانٹائزیشن کے ساتھ ہائی اینڈ CPUs درکار ہوتے ہیں۔ اس کا بنیادی فائدہ یہ ہے کہ یہ انفیرنس کی لاگت اور لیٹنسی کو نمایاں طور پر کم رکھتے ہوئے اعلی کارکردگی فراہم کرتا ہے، جس سے یہ ڈیوائس پر AI ایپلی کیشنز کے لیے مثالی بنتا ہے۔