DeepSeek s'est rapidement imposée comme l'une des applications d'IA générative les plus médiatisées de 2025, mais son ascension fulgurante a suscité de nombreux débats sur ses implications en matière de sécurité et de confidentialité. Dans cet article, nous explorons la question complexe de sa sécurité réelle : ses origines, ses pratiques en matière de données, les incidents de sécurité et les réponses des régulateurs et de l'entreprise elle-même.
Qu'est-ce que DeepSeek ?
Origines et développement
DeepSeek est un chatbot d'IA générative développé en Chine, basé sur de grands modèles de langage open source, conçu pour fournir des conversations en langage naturel et des capacités de recherche d'informations aux utilisateurs du monde entier.
Architecture technique
Le service s'appuie sur une combinaison de réseaux neuronaux basés sur des transformateurs, affinés sur des corpus de textes massifs, avec une infrastructure back-end hébergée dans le cloud pour gérer l'inférence et le stockage des données.
Les prouesses technologiques de DeepSeek dissimulent une multitude de failles de sécurité révélées par de multiples évaluations indépendantes et des incidents réels. Comprendre ces vulnérabilités est essentiel pour évaluer le profil de sécurité global du modèle.
Quelles sont les principales vulnérabilités de sécurité ?
Exploitations de modèles et réponses rapides nuisibles
Une étude conjointe menée par Cisco et l'Université de Pennsylvanie a révélé que le modèle R1 de DeepSeek n'a bloqué aucune des invites nuisibles ou illicites conçues pour tester les garde-fous. Les tests ont porté sur des requêtes portant sur la désinformation, la facilitation de la cybercriminalité et les activités malveillantes en général, le modèle s'y conformant scrupuleusement dans tous les cas, ce qui contraste fortement avec les LLM occidentaux, qui appliquent généralement un filtrage de contenu plus rigoureux. Cette absence de modération interne du contenu permet aux acteurs malveillants d'utiliser le modèle comme une arme pour des tâches aussi complexes que la conception de rançongiciels ou l'automatisation de campagnes de phishing.
Hallucinations liées aux colis et risques liés à la chaîne d'approvisionnement
Au-delà des vulnérabilités immédiates, DeepSeek est sujet aux « hallucinations de paquets », des cas où les LLM inventent des bibliothèques logicielles inexistantes que les développeurs peuvent importer par inadvertance. Les chercheurs en sécurité avertissent que des acteurs malveillants peuvent enregistrer ces noms de paquets falsifiés dans des dépôts publics, incitant ainsi les systèmes automatisés à télécharger des dépendances contenant des logiciels malveillants, une tactique appelée « slopsquatting ». Bien que cette menace ne soit pas propre à DeepSeek, sa nature open source et son marketing de performance agressif pourraient amplifier ces risques si elle n'est pas maîtrisée.
Quel est l’impact de DeepSeek sur la confidentialité ?
Les préoccupations en matière de confidentialité concernant DeepSeek se concentrent principalement sur les pratiques de traitement des données et la surveillance potentielle parrainée par l’État, compte tenu de ses origines chinoises et de ses liens étroits avec les politiques technologiques nationales.
Transmission de données vers la Chine
La Commission sud-coréenne de protection des données personnelles (PIPC) a suspendu les nouveaux téléchargements de DeepSeek après avoir confirmé que les données des utilisateurs, y compris les journaux de discussion, étaient acheminées vers des serveurs appartenant à ByteDance en Chine. Cette décision a suscité des craintes d'accès non autorisé aux données par les autorités chinoises et a donné lieu à une enquête en cours sur le respect des lois locales sur la protection des données.
Violation de configuration du cloud
En janvier 2025, Wiz Research a découvert une erreur de configuration majeure dans le stockage cloud de DeepSeek, exposant plus d'un million d'entrées sensibles, telles que des clés API, des journaux système et des transcriptions privées de sessions utilisateur de début janvier. Cette faille a mis en évidence des failles systémiques dans la sécurisation de l'infrastructure back-end et a incité la marine américaine à interdire l'accès aux appareils fournis par le gouvernement jusqu'à ce que DeepSeek puisse démontrer des mesures correctives.
Quelles actions géopolitiques et réglementaires ont suivi ?
La prolifération rapide de DeepSeek n’est pas passée inaperçue auprès des gouvernements et des organismes de réglementation, ce qui a conduit à une mosaïque de restrictions et d’enquêtes à travers le monde.
Interdictions et restrictions
Plusieurs pays ont formellement interdit ou émis des avertissements contre DeepSeek. L'Italie et Taïwan ont bloqué l'accès au service pour des raisons de confidentialité, tandis que l'Inde et certains États américains ont interdit son utilisation sur les réseaux gouvernementaux. Le Pentagone et la NASA ont également restreint l'utilisation de DeepSeek par leurs employés, invoquant des considérations de sécurité nationale et d'éthique.
Enquêtes sur la protection des données
Début 2025, l'autorité italienne de protection des données a exigé des éclaircissements de la part de DeepSeek concernant ses politiques de confidentialité et ses pratiques de conservation des données, ordonnant finalement le blocage pur et simple de son service de chatbot, l'entreprise n'ayant pas répondu adéquatement aux préoccupations des régulateurs. De même, l'autorité néerlandaise de protection des données et le PIPC sud-coréen ont ouvert des enquêtes sur d'éventuelles violations des garanties relatives aux données des utilisateurs.
Que disent les experts en IA et les leaders du secteur ?
Les opinions sur l’importance de DeepSeek – et sa sécurité – varient considérablement parmi les sommités de l’IA, les dirigeants d’entreprise et les chercheurs universitaires.
Des recommandations prudentes
Le PDG d'OpenAI, Sam Altman, a publiquement reconnu ses performances « impressionnantes » dans des domaines tels que les mathématiques, le codage et le raisonnement scientifique, tout en remettant en question les affirmations de rentabilité de la start-up, compte tenu des rapports faisant état d'un investissement de 1.6 milliard de dollars et d'un achat massif de GPU. Les propos d'Altman reflètent un respect plus large de l'industrie pour les prouesses techniques de DeepSeek, tempéré par un scepticisme quant à sa véritable empreinte opérationnelle.
Préoccupations liées aux risques existentiels
À l'inverse, le Future of Life Institute (FLI) a lancé un avertissement sévère : les entreprises d'IA, y compris les acteurs émergents comme DeepSeek, sont mal préparées aux menaces existentielles potentielles de l'intelligence artificielle générale (IAG). Le FLI a attribué aux grandes entreprises d'IA des notes ne dépassant pas un D en « planification de la sécurité existentielle », soulignant ainsi l'urgence de mettre en place des cadres de gouvernance robustes à mesure que les modèles d'IA gagnent en puissance.
Alertes de sécurité de la communauté
Yoshua Bengio, souvent considéré comme le « parrain » de l'IA, a identifié DeepSeek comme un facteur de risque critique dans la course mondiale aux armements de l'IA, suggérant que la pression concurrentielle pour devancer ses concurrents pourrait compromettre les protocoles de sécurité. De même, les experts en cybersécurité soulignent que le modèle ouvert de DeepSeek, combiné à des garde-fous inadéquats, pourrait accélérer la prolifération des cyberattaques alimentées par l'IA.
Quelles stratégies d’atténuation sont disponibles ?
Compte tenu du profil de risque multiforme de DeepSeek, les experts recommandent une approche à deux volets pour protéger les utilisateurs et les organisations.
Contrôles de pré-génération
Les techniques de pré-génération visent à améliorer les méthodologies d'entraînement et d'incitation des modèles afin de minimiser les résultats risqués avant qu'ils ne se produisent. Les stratégies incluent l'optimisation des LLM open source sur des ensembles de données organisés et conformes aux politiques ; l'intégration de boucles d'auto-affinement où le modèle évalue son propre niveau de risque ; et l'enrichissement des invites utilisateur avec des bases de connaissances validées pour réduire les hallucinations.
Défenses post-générationnelles
Les mesures de protection post-génération impliquent la vérification des résultats des modèles par des outils automatisés et une révision humaine. Les développeurs peuvent croiser des extraits de code avec des registres de logiciels fiables, déployer des analyseurs de dépendances pour signaler d'éventuelles tentatives de « slopsquatting » et intégrer des couches de filtrage de contenu pour intercepter les requêtes nuisibles ou illégales. Si ces mesures offrent une protection supplémentaire, elles reposent sur l'intégrité des processus de validation eux-mêmes, qui peuvent être ciblés par des adversaires.
DeepSeek est-il sûr pour les utilisateurs et les entreprises ?
Évaluation des risques
- Risque de fuite de données:L'exposition antérieure de la base de données démontre un risque tangible de fuite accidentelle des données utilisateur si les configurations de sécurité appropriées ne sont pas maintenues.
- Défaillances des garde-corps de sécurité:Le fait que le chatbot de DeepSeek puisse être jailbreaké dans tous les scénarios testés suggère que des invites malveillantes pourraient provoquer des résultats nuisibles ou involontaires.
- Conformité réglementaire:Les restrictions imposées par le PIPC sud-coréen soulignent que DeepSeek doit adapter ses pratiques de traitement des données aux réglementations internationales en matière de confidentialité avant de récupérer des droits de distribution plus larges.
- Considérations relatives à la sécurité nationale:L’implication des organismes de sécurité nationale américains met en évidence la dimension géopolitique de l’utilisation de services d’IA développés par la Chine dans des contextes sensibles.
Recommandations pour une utilisation en toute sécurité
Les organisations qui évaluent DeepSeek doivent :
Surveillez les mises à jour de DeepSeek concernant les correctifs de sécurité et les politiques de confidentialité révisées avant le déploiement dans les environnements de production.
Effectuez des audits de sécurité approfondis sur tous les services d’IA intégrés et vérifiez régulièrement les configurations cloud.
Implémentez le sandboxing et le filtrage de sortie pour atténuer les attaques potentielles de jailbreak et d’injection rapide.
Assurez-vous que les pratiques de résidence et de cryptage des données sont conformes aux réglementations régionales pour empêcher l’exfiltration non autorisée des données.
La sécurité de l'utilisation de CometAPI pour accéder à Deepseek
CometAPI fournit une interface REST unifiée qui regroupe des centaines de modèles d'IA sous un point de terminaison cohérent, avec gestion intégrée des clés API, des quotas d'utilisation et des tableaux de bord de facturation. Plus besoin de jongler avec plusieurs URL et identifiants de fournisseurs.
CometAPI propose un prix bien inférieur au prix officiel pour vous aider à intégrer Deepseek. Vous recevrez 0.1 $ sur votre compte après votre inscription et votre connexion ! N'hésitez pas à vous inscrire et à découvrir CometAPI.
- Utilisation à 100 % des canaux officiels à haut débit de l'entreprise et engagement de fonctionnement permanent !
- L'API transmet les données via des protocoles de communication sécurisés (protocoles HTTPS)
- Les intégrations d'API utilisent des mécanismes de sécurité tels que des clés API pour garantir que seuls les utilisateurs et les systèmes autorisés peuvent accéder aux ressources pertinentes.
- Effectuez régulièrement des tests de sécurité et mettez à jour et maintenez les versions d'API.
Les développeurs peuvent accéder à la dernière API deepseek(Date limite de publication de l'article): API DeepSeek R1 (nom du modèle : deepseek-r1-0528)à travers API CometPour commencer, explorez les capacités du modèle dans le cour de récréation et consultez le Guide de l'API Pour des instructions détaillées, veuillez vous connecter à CometAPI et obtenir la clé API avant d'y accéder. API Comet proposer un prix bien inférieur au prix officiel pour vous aider à vous intégrer.
En résumé, si DeepSeek représente une prouesse technique remarquable en matière de développement de LLM rentable, ses lacunes actuelles en matière de sécurité et de confidentialité constituent des obstacles majeurs à une adoption généralisée. Les parties prenantes – des utilisateurs individuels aux agences de sécurité nationale – doivent évaluer l'innovation de l'entreprise au regard des risques réels et évolutifs qu'elle représente. Tant que DeepSeek ne parviendra pas à combler ses lacunes et à s'aligner sur les attentes réglementaires mondiales, son utilisation devra être envisagée avec prudence et prudence, plutôt qu'avec un enthousiasme débridé.