- messenger
En diffusant une quantité massive de fausses informations via des articles sur internet ou sur les réseaux sociaux, la Russie parvient à influencer les réponses des chatbots les plus utilisés.
La Russie semble avoir trouvé son nouveau terrain de jeu pour diffuser de la désinformation. Les chatbots, comme ChatGPT, Perplexity ou Grok, commencent à devenir une source courante d'information pour de nombreuses personnes. Ils ne sont cependant pas imperméables à la désinformation malgré les garde-fous.
En disséminant de fausses informations dans les bases de données qui nourrissent les IA, certains groupes malintentionnés sont en mesure d'influencer les réponses des chatbots. Selon Newsguard, une organisation contre la désinformation, un tiers des réponses générés par les dix principales IA validaient les opinions relayées par les médias pro-russes.
La France est notamment dans la ligne de mire du Kremlin. En cause, un contexte international tendu où la France se place comme un des principaux alliés de l'Ukraine.
Saturer internet
La stratégie russe pour tromper les chatbots est simple: saturer les données récoltées par les chatbots sur internet de fausses sources.
Car lorsqu'il propose une réponse, un chatbot marche plus ou moins sur un système de probabilité: plus une information est relayée dans de nombreux médias, plus le chatbot considère qu'elle est vraie. Certains chatbots vont même jusqu'à puiser leurs informations dans les réseaux sociaux.
Culture IA : L'IA, une arme pour les cybercriminels - 02/04
3:31
De plus, les chatbots ont tendance à privilégier les sources récentes lorsqu'ils cherchent une réponse en ligne sur un sujet d'actualité. Plus on inonde internet d'articles mensongers sur un sujet, plus un chatbot aura tendance à répéter ces fausses informations dans ses réponses.
Évidemment la modération des IA et des réseaux sociaux fait office de garde-fou. Mais l'arrivée au pouvoir de Donald Trump et les nouvelles politiques de certains réseaux sociaux réduisent les moyens alloués à la modération. Les risques pour que des fausses informations s'introduisent dans les réponses de chatbots sont, par conséquent, assez hautes.
Pravda, une arme de diffusion massive
Pour parvenir à cette inondation de désinformation, la Russie possède un outil puissant spécifiquement conçu pour gangrener les réponses des chatbots. Selon Newsguard, elle passe par un réseau de presque 150 sites d'information pro-Kremlin intitulé "Pravda", le mot russe qui signifie assez ironiquement "Vérité".
Ce réseau est contrôlé depuis la Crimée par une entreprise du nom de Tigerweb. Il avait été découvert en 2024 par Viginum, service français en charge de la protection contre les ingérences numériques étrangères.
“Viginum est en mesure de confirmer l’implication d’un acteur russe, l’entreprise Tigerweb et ses dirigeants, dans la création d’un véritable réseau de sites web d’information et de propagande visant à façonner, en Russie et au-delà des frontières, un environnement informationnel favorable aux intérêts russes”, affirme le service français.
Ces sites diffusent massivement leur contenu en plus de 46 langues. En 2024, près de 3,6 millions d'articles ont été publiés sur l'ensemble de ces sites. Ces sites n'ont pas vocation à être visités par des utilisateurs humains, leur fréquentation est d'ailleurs très faible. Mais en inondant internet de ces fausses informations, les chatbots ont, quant à eux, de fortes chances de piocher des informations sur ces sites.
Un des leaders de la propagande du Kremlin affirmait cette stratégie à l'occasion d'une réunion divulguée sur Youtube: "En faisant passer ces récits russes du point de vue russe, nous pouvons réellement changer l’intelligence artificielle mondiale.”
Une opération qui veut semer le trouble
D'autres contenus font partie d'une campagne de désinformation russe nommée Storm-1516 contre plusieurs pays occidentaux. Storm-1516 crée une fausse information de toute pièce et compte sur les réseaux sociaux pour la diffuser.
Newsguard caractérise ainsi la tactique de Storm: "prendre un individu bien réel ayant un lien vérifiable avec une personnalité publique et construire une fausse accusation autour de celui-ci."
Story 4 : La Russie, vraiment une menace pour la France ? – 06/03
37:18
À l'origine de cette stratégie, on trouve un ancien shérif adjoint américain du nom de John Mark Dougan. À défaut d'avoir un nombre de personnes suffisant pour produire une telle quantité de contenus, Storm-1516 utilise l'IA générative pour créer un flux de faux contenus donc l'objectif est de devenir viraux.
Ces contenus ont notamment pour objectif d'influencer l'opinion de la population sur la situation internationale, voire de changer le cours d'une élection. Selon Newsguard, Storm-1516 était particulièrement actif en amont de l'élection présidentielle américaine de 2024, lors des Jeux olympiques de Paris, ou lors des élections fédérales allemandes de février 2025.
La France dans la tempête
La nouvelle cible de Storm-1516 est désormais la France. Dans une publication de Newsguard datant du 17 avril, on apprend que cinq informations intégralement fausses auraient été largement diffusées entre décembre 2024 et mars 2025.
Ces mensonges ont été relayés plus de 38.000 fois sur les réseaux sociaux engrangeant près de "55 millions de vues". Voici les cinq campagnes de désinformations en question (dans l'ordre chronologique):
- les aveux d'un migrant Tchadien qui aurait violé une jeune fille de 12 ans en France
- une fausse vidéo d'un groupe islamiste menaçant de mettre le feu à Notre-Dame de Paris
- un faux témoignage d'un ancien élève de Brigitte Macron qui accuse la première dame de l'avoir abusé sexuellement alors qu'il avait 12 ans
- Le fait que Volodymyr Zelensky aurait procédé au rachat d'une banque française
- Réaulf Fleming, un militant antillais contre le sida, qui révèle la liaison secrète qu'aurait eu Emmanuel Macron avec son frère
La France et ses dirigeants sont pris pour cible en raison de leur soutien affirmé à l'Ukraine contre qui la Russie est en guerre. La dernière campagne russe a notamment eu lieu fin mars 2025, présumément après qu'Emmanuel Macron ait présidé une réunion sur la paix et la sécurité en Ukraine.
Les chatbots infectés par la propagande russe
Le constat est alarmant pour Newsguard. L'organisation a récemment demandé aux onze chatbots les plus utilisés dans le monde si la relation secrète qu'aurait entretenu Emmanuel Macron avec le frère de Réaulf Fleming était vraie.
Cinq d'entre eux ont affirmé la véracité de cette information, bien que fausse. Parmi eux, le chatbot français Le Chat de la société Mistral aurait confirmé la fausse information.
Cette histoire illustre également le fait que Storm-1516 travaillerait de concert avec le réseau Pravda en relayant massivement ces informations fabriquées. Quatre jours après que Storm-1516 ait lancé la rumeur sur la relation secrète d'Emmanuel Macron, les sites de Pravda reprenaient massivement l'information.
Théotim Raguet
