Alors que l'intelligence artificielle continue d'évoluer, Qwen 2.5 d'Alibaba s'impose comme un concurrent de taille dans le domaine des grands modèles linguistiques (LLM). Lancé début 2025, Qwen 2.5 bénéficie d'améliorations significatives par rapport à ses prédécesseurs, offrant une suite de fonctionnalités adaptées à un large éventail d'applications, du développement logiciel à la résolution de problèmes mathématiques, en passant par la génération de contenu multilingue et bien plus encore.
Cet article explore les subtilités de Qwen 2.5 et offre un aperçu détaillé de son architecture, de ses fonctionnalités et de ses applications pratiques. Que vous soyez développeur, chercheur ou professionnel, comprendre comment exploiter Qwen 2.5 peut vous ouvrir de nouvelles perspectives professionnelles.
Qu'est-ce que Qwen 2.5 ?
Qwen 2.5 est la famille de modèles de langage à grande échelle de génération 2025 d'Alibaba Cloud. Elle couvre de 1.5 à 72 milliards de paramètres (et un modèle similaire optimisé pour le raisonnement de 32 milliards). Elle alimente désormais des produits commerciaux, de recherche et grand public tels que Qwen Chat, DashScope et une passerelle API compatible OpenAI. Par rapport à Qwen 2, la gamme 2.5 introduit (i) un cœur Mixture-of-Experts (MoE) pour plus d'efficacité, (ii) un entraînement sur environ 20 T jetons, (iii) un suivi d'instructions, un codage et un raisonnement multilingue renforcés, (iv) des variantes de langage de vision (VL) et « Omni » entièrement multimodales, et (v) des options de déploiement allant d'Alibaba Cloud à l'auto-hébergement via GitHub, Hugging Face, ModelScope et Docker/OLLAMA.
Toutes les tailles partagent un point commun recette de pré-entraînement mais divergent dans leur instruction-réglage fin Couches : Qwen-Chat (pour les dialogues ouverts) et Qwen-Base (pour les réglages en aval). Les points de contrôle les plus importants incluent également Qwen 2.5-Max, une édition Mixture-of-Experts (MoE) clairsemée qui active 2.7 B paramètres par jeton pour un coût d'inférence bien inférieur sur les GPU.
Points forts architecturaux de Qwen 2.5
Changement architectural
Qwen 2.5 représente une avancée significative dans le développement de modèles d'IA, principalement grâce à son entraînement intensif et à son architecture raffinée. Le modèle a été pré-entraîné sur un jeu de données colossal comprenant 18 7 milliards de jetons, soit une augmentation substantielle par rapport aux 2 XNUMX milliards de jetons utilisés dans son prédécesseur, Qwen XNUMX. Ce vaste jeu de données d'entraînement améliore la compréhension du langage, du raisonnement et des connaissances spécifiques au domaine par le modèle.
Qwen 2.5 adopte une structure de base à mélange d'experts (MoE) clairsemée : seul un petit sous-ensemble d'experts s'active par jeton, ce qui permet une capacité effective supérieure sans croissance linéaire des coûts Qwen. La formation a utilisé environ 20 T de jetons et un programme de données affiné avec ajustement fin supervisé (SFT) et RLHF. Les benchmarks publiés par l'équipe montrent des gains importants en MMLU, en mathématiques GSM8K et en compréhension multilingue par rapport aux références Qwen 2 et 7 B/70 B.
La famille de modèles Qwen 2.5
| Édition | Taille | Modalité | Objectif et titre principal |
|---|---|---|---|
| Qwen 2.5‑1.5B‑Instruct | 1.5 B | Texte | Appareils Edge / chatbots où la mémoire est rare |
| Qwen 2.5‑7B‑Instruct | 7 B | Texte | Master en droit (LLM) open source phare avec 32 29 contextes et une couverture en XNUMX langues |
| Qwen 2.5‑Omni‑7B | 7 B | multimodal (texte + image + audio + vidéo) | Fusion des modalités de bout en bout |
| Qwen 2.5‑VL‑3B/7B/72B‑Instruction | 3–72 B | Vision-langage | Sous-titrage dense, assurance qualité des documents, OCR, analyse des graphiques |
| QwQ‑32B | 32 B | Texte (raisonnement) | MoE spécialisé en mathématiques/codage ; parité avec DeepSeek R1 671 B à 5 % de coût |
| Qwen 2.5-Max | non divulgué (multi-experts) | Texte | Leader interne du benchmark, disponible via API et Qwen Chat |
Principales capacités et repères
Suivi des instructions et portée multilingue
Des articles internes montrent que Qwen 2.5-7B surpasse Llama-3 8B sur AlpacaEval (92 contre 89) et atteint un taux de victoire de 79 % contre GPT-3.5-Turbo sur MT-Bench chinois. Les langues prises en charge incluent le turc, l'indonésien, l'allemand, l'arabe et le swahili. Une fenêtre contextuelle de 32 Ko avec codages positionnels à corde coulissante fournit un résumé PDF de 200 pages sans fragmentation.
Codage et raisonnement
QwQ‑32B obtient un score de 50.4 % sur GSM8K (5-shot) et de 74 % sur HumanEval‑Plus, à égalité avec DeepSeek R1 avec un nombre de paramètres vingt fois inférieur. Les premiers tests communautaires montrent que le modèle 7 B peut compiler et déboguer des extraits C++ avec g++‑13 dans un sandbox Docker avec un minimum d'hallucinations.
Les atouts multimodaux
Qwen 2.5-VL-72B atteint 62.7 % sur MMMU et 73.4 % sur TextVQA, devançant Gemini 1.5-Pro dans les tâches OCR de table (selon le blog de Qwen de janvier). Omni-7B étend cette fonctionnalité à la transcription spectrale audio et à l'échantillonnage d'images MP4 via un tokeniseur partagé.
Licences, sécurité et gouvernance
Alibaba conserve le code/la licence Apache 2.0 avec un supplément « Qian-Wen, IA responsable » cavalier:
- Interdit: contenu terroriste, désinformation, extraction de données personnelles.
- Obligatoire: les développeurs doivent implémenter des filtres de contenu et des filigranes dans les applications en aval.
La licence autorise l'utilisation commerciale mais impose divulgation de la carte modèle si les pondérations sont modifiées et redéployées. Sur Alibaba Cloud, la modération est appliquée côté serveur ; les auto-hébergeurs doivent intégrer le filtre de gradient de politique open source (lié dans le dépôt).
Feuille de route vers Qwen 3
Bloomberg et PYMNTS rapportent qu'Alibaba dévoilera Qwen 3 « Dès fin avril 2025 », avec probablement des paramètres denses de plus de 100 B et des capacités d'utilisation d'outils natifs. Des sources internes suggèrent que des clusters de 4 x 2048 GPU sur ASIC Hanguang 800+ et un noyau Triton-Flash-Attention v3 sont en cours de test. Qwen 2.5 restera la branche open source, tandis que Qwen 3 pourrait être lancé sous une licence plus restrictive, similaire à celle de Llama 3-Commercial de Meta.
Conseils pratiques pour les développeurs
- Comptage des jetons : Qwen utilise QwenTokenizer; son jeton spécial est égal à
<|im_end|>dans des invites de style OpenAI. - Messages système : Envelopper avec
<|im_start|>system … <|im_end|>pour préserver la hiérarchie et éviter les coupables du poids delta. - Réglage fin: Appliquez le rang LoRA 64 uniquement sur les couches 20 à 24 ; le LoRA de la couche précoce produit des gains négligeables en raison de la rareté du MoE.
- Streaming: Avec DashScope, activez
X-DashScope-Stream: true; la taille du bloc est de 20 jetons. - Entrée Qwen-VL : Encoder les octets de l'image en base64 ; passer via
inputs=.
Conclusion
Qwen 2.5 consolide la position d'Alibaba Cloud dans la course mondiale aux LLM open source en alliant l'efficacité du MoE à une licence permissive et à une multitude de voies d'accès : de Qwen Chat en un clic à Ollama sur ordinateur portable, en passant par les terminaux DashScope d'entreprise. Pour les chercheurs, son corpus d'entraînement transparent et sa forte parité chinois-anglais comblent un vide laissé par la série Llama de Meta. Pour les développeurs, l'API compatible OpenAI simplifie la migration, tandis que les branches multimodales VL/Omni anticipent un avenir proche où texte, vision, audio et vidéo convergeront sous un espace de jetons unifié. Alors que Qwen 3 se profile à l'horizon ce mois-ci, Qwen 2.5 sert à la fois de terrain d'essai et de modèle de production robuste, qui redéfinit déjà les règles de concurrence de l'IA à grande échelle en 2025.
Pour les développeurs : accès API
API Comet Nous proposons un prix bien inférieur au prix officiel pour vous aider à intégrer l'API Qwen. Vous recevrez 1 $ sur votre compte après votre inscription et votre connexion ! Bienvenue pour vous inscrire et découvrir CometAPI.
CometAPI agit comme un hub centralisé pour les API de plusieurs modèles d'IA de premier plan, éliminant ainsi le besoin d'interagir séparément avec plusieurs fournisseurs d'API.
S'il vous plaît se référer à API Qwen 2.5 Max pour plus de détails sur l'intégration. CometAPI a mis à jour la dernière API QwQ-32BPour plus d'informations sur le modèle dans l'API Comet, veuillez consulter API doc.
