Devez-vous vous méfier de Deepseek, la nouvelle IA chinoise?

Les répliques du tremblement de terre qui se sont produites lundi dans le monde de l’IA ne se terminent plus. La société chinoise Deepseek a lancé son propre robot conversationnel basé sur l’intelligence artificielle, une manière Chatgpt. Se prétendant beaucoup moins cher dans le pouvoir de calcul, Deepseek est venu à court-circuiter l’annonce du projet Donald Trump Stargate, qui a promis d’investir 500 milliards de dollars dans l’IA aux côtés d’Openai, de Softbank et d’Oracle, trois géants américains techniques.

L’annonce de l’arrivée de Deepseek a été suivie d’un vent de panique dans la Silicon Valley. Nvidia, une entreprise qui fabrique des processeurs prévoyait initialement pour le jeu mais dont les modèles de performance alimente les modèles d’IA, ont vu son action baisser de 17%. Et à la suite de ces nouvelles, plusieurs voix ont exprimé leur préoccupation comme Marc Andreessen, un pionnier d’Internet qui a décrit l’émergence de Deepseek comme « le moment Spoutnik de l’IA ». Alors, devriez-vous avoir peur du champion de l’IA chinois? Jean-Vincent Brisset, chercheur associé à l’iris, apporte à 20 minutes Éléments de réponse.

Y a-t-il un risque pour les utilisateurs?

À peine disponible, Deepseek a fait l’objet de toute attention. Selon un billet de Kela Researchers, une société de conseil en cybersécurité, le robot peut facilement être utilisé pour « produire des résultats malveillants, tels que le développement de ransomwares, la création de contenu sensible ou la fourniture d’instructions détaillées pour fabriquer des toxines et des appareils explosifs » .

Un autre point concerne les utilisateurs: données personnelles. Aux États-Unis, le cas de Tiktok a déjà attiré l’attention sur le risque de voir les données des utilisateurs stockées en Chine (Sa société mère, Bytedance, est chinoise), où ils pourraient être utilisés par le gouvernement. « Il y a un problème de collecte de données », confirme Jean-Vincent Brisset. L’exploration de données est quelque chose d’important pour la Chine, et il représente une intrusion pour les utilisateurs. « Il se souvient, cependant, que » la Chine n’est pas la seule à le faire « , et que la question pourrait également se poser pour les données personnelles des Européens qui utilisent des outils comme le Chatgpt américain. Pour le moment, l’équivalent italien du CNIL a envoyé une demande d’informations à Deepseek.

Deepseek censure les informations qui ne plaisent pas au gouvernement chinois?

Il n’a pas fallu longtemps avant que des petits intelligents, sachant que Deepseek était une IA chinoise, essaie de l’interroger sur les problèmes politiques censurés en Chine. Une vidéo sur X montre par exemple le robot incapable de donner l’origine de « la célèbre photo d’un homme avec des sacs de course devant un réservoir » (pris en marge des manifestations étudiantes de 1989 sur la place Tiananmen, réprimée dans la violence ). En voulant refaire le test, nous pouvons confirmer que l’IA refuse de parler de ces sujets. Pire encore, en activant la fonction de « pensée profonde », censée montrer le chemin de la pensée de l’IA en direct, nous voyons la réflexion Stop Live, remplacée par un « Désolé, je ne sais pas encore comment répondre aux questions de ce gars. Parlons sur les mathématiques, le code ou la logique! »»

« Il est très facile d’introduire des réponses formatées dans ce type d’intelligence artificielle », commente Jean-Vincent Brisset. On peut également imaginer un chatbot qui donnerait des éléments de différentes réponses selon l’endroit où vous êtes dans le monde. Pour le moment, la censure semble trop grossière pour tromper quiconque ne s’est pas endormi pendant ses leçons d’histoire. Mais l’IA pourrait ouvrir une nouvelle bataille inattendue du soft power.

Quels sont les impacts économiques et politiques de Deepseek?

L’IA risque de devenir un aspect supplémentaire de la guerre économique que les États-Unis et la Chine sont engagés. Donald Trump a qualifié la percée éblouissante du « signal d’alarme de l’AI chinois pour l’industrie technologique américaine ». John Moolenaar, élu républicain du Michigan, a demandé un contrôle plus strict sur les exportations technologiques essentielles à l’infrastructure d’IA. Plus largement, et pour revenir à ce « moment de spoutnik », « l’Occident découvre que la Chine n’est plus retardée », conclut Jean-Vincent Brisset.