DeepSeek : des failles alarmantes dans l’IA chinoise

DeepSeek, le nouveau concurrent de ChatGPT, vient renforcer la volonté des dirigeants chinois de s’imposer comme leaders mondiaux en intelligence artificielle. Pourtant, plusieurs gouvernements étrangers tirent déjà la sonnette d’alarme sur les risques liés aux failles de sécurité de la plateforme.

Par Sacha Israël | Publié le 14 février 2025

Pour lire l’article tel que paru initialement dans la revue animée et interactive LES CONNECTEURS :

Des données personnelles à risque

Depuis son lancement, la plateforme fait les gros titres des journaux en devenant l’application gratuite la plus téléchargée dans plusieurs régions du monde, surpassant même ChatGPT d’OpenAI.

Pourtant, si elle fait couler l’encre, c’est surtout pour ses dérives relatives à la protection des données des utilisateurs. Des experts en sécurité ont d’ailleurs évoqué les risques liés à l’utilisation de ce système d’IA, qui recueille de nombreuses informations sur ses utilisateurs, comme les noms, les courriels, les numéros de téléphones ou encore les dates de naissance. Des problèmes qui posent également des questions de confidentialité en rapport aux fichiers et requêtes soumises par les utilisateurs.

Les experts mettent également en garde quant aux informations fournies sur les appareils et les connexions de réseau, notamment en ce qui a trait aux informations de paiement divulguées.

Si DeepSeek se présente comme une plateforme moins énergivore et plus abordable, elle semble pourtant conserver les données de ses utilisateurs en lien avec les lois chinoises sur la sécurité nationale en vigueur, obligeant les organisations du pays à aider l’État dans sa collecte de renseignements.

Dans une entrevue d’Adrianus Warmenhoven, expert en cybersécurité chez NordVPN pour le média TPE actu, les normes culturelles chinoises sont l’un des éléments d’analyse évoqués pour expliquer la collecte des données effectuée par la plateforme : « Les utilisateurs doivent être conscients que toutes les données partagées avec la plateforme pourraient être accessibles au gouvernement en vertu des lois chinoises sur la cybersécurité », explique-t-il.

L’expert souligne également un manque de transparence de la plateforme dans le mode de fonctionnement de ses systèmes d’IA, qui pousse les utilisateurs à partager de nombreuses informations sans évaluer les risques qu’ils encourent quant à la potentielle fuite de leurs données personnelles.

Vulnérabilités de sécurité

DeepSeek fait également objet de controverses pour ses nombreuses failles concernant les risques de cyberattaques.

Une récente étude menée par des chercheurs du groupe Cisco de l’Université de Pennsylvanie a mis en lumière ces failles, en constatant que la plateforme avait échoué à tous les tests de résistance aux attaques. Ils affirment notamment avoir été choqués par le taux de réussite des attaques, évaluée à 100% selon les chercheurs.

Le groupe Cisco insiste ainsi sur la nécessité de mettre en place des protocoles de sécurité renforcés dans le développement de ces modèles d’IA, notamment dans les entreprises. Il préconise également une évaluation continue des vulnérabilités de la plateforme, afin de garantir que les innovations technologiques ne se fassent pas au détriment de la sécurité.

Restrictions gouvernementales

Ces normes culturelles chinoises viennent ainsi semer la controverse dans les pays étrangers qui font preuve d’une extrême vigilance face à l’arrivée du concurrent d’Open AI.

Alors qu’Ottawa interdit l’utilisation de DeepSeek sur certains appareils, les États-Unis et l’Australie restreignent également son accès, craignant une menace pour leur gouvernement : « Après une analyse des risques et des menaces, j’ai considéré que l’utilisation des produits, des applications et des services Internet de DeepSeek représentait un niveau de risque inacceptable en termes de sécurité pour le gouvernement australien », a lancé Stephanie Foster, ministre australienne de l’Intérieur.

D’autres pays, comme Taïwan et la Corée du Sud, ont également demandé des comptes à l’entreprise chinoise, en raison de risques pour la sécurité nationale et du traitement des données des utilisateurs, en parallèle de la France et de l’Irlande.