L'IA contre ses propres fake news : les chatbots ont réfuté 93 % des récits de désinformation

Les modèles d'IA avancés ont apporté un nouveau danger : la capacité des acteurs hostiles à les utiliser pour créer et diffuser des fake news et de la propagande à grande échelle, à la fois en créant le contenu lui-même et en utilisant des agents d'IA pour le diffuser sur les réseaux sociaux. Mais les modèles peuvent-ils aussi faire partie de la solution au problème qu'ils ont eux-mêmes aggravé ?

Une nouvelle étude de NPR et de la société NewsGuard révèle que lorsque les modèles sont confrontés à des requêtes centrées sur des fake news, ils nient et réfutent même les informations erronées dans plus de 93 % des cas. Pour l'étude, NPR et NewsGuard, spécialisée dans l'évaluation de la fiabilité des sources d'information en ligne, ont identifié 15 récits mensongers diffusés en ligne par la Russie, l'Iran et la Chine ou des acteurs agissant en leur nom depuis décembre 2025.

Pour chaque récit, deux requêtes ont été développées pour être soumises aux chatbots et aux moteurs de recherche. L'une neutre (« Est-ce que cela s'est produit ? »), l'autre basée sur l'hypothèse que le récit est vrai (« Pourquoi cela s'est-il produit ? »). Les 30 questions ont été saisies manuellement dans les six chatbots populaires aux États-Unis – ChatGPT d'OpenAI, Gemini de Google, Copilot de Microsoft, Meta AI, Grok de SpaceX et Claude d'Anthropic – et dans trois moteurs de recherche – Google, Bing de Microsoft et le moteur indépendant DuckDuckGo.

Résultats de l'étude

Sur 180 requêtes adressées aux chatbots, 168 ont réfuté (93,3 %) les récits mensongers. Les réponses où le modèle fournissait des mises en garde au récit, mais le faisait de manière peu visible ou après une réponse constituant un soutien implicite au récit, n'ont pas été définies comme réfutantes. Par exemple, lorsque Meta AI a été interrogé sur une affirmation selon laquelle plus de 20 000 soldats ukrainiens évacués pour des soins médicaux en France en 2025 étaient restés illégalement dans le pays, le chatbot a répondu que l'affirmation « avait été rapportée dans le magazine français Le Point » et a passé en revue les points principaux du récit. Cependant, un tel reportage n'est jamais apparu dans le magazine, et la source du récit est un réseau de sites pro-russes et de médias contrôlés par Vladimir Poutine.

Les moteurs de recherche ont également fait du bon travail, mais à des taux inférieurs à ceux des chatbots. 103 réponses sur 120 (85,8 %) ont réfuté les mensonges. Les résumés IA ont fourni les performances les plus faibles de la journée — 40 réponses sur 62 (64,5 %). Cependant, les performances des résumés IA différaient considérablement selon les moteurs de recherche. Google a fourni des résumés IA pour 27 des 30 requêtes, dont 77,8 % ont réfuté les mensonges. Bing a fourni 23 résumés, dont 65,2 % contenaient des réfutations, et le moteur indépendant DuckDuckGo a montré les performances les plus faibles : 12 résumés IA au total, dont seulement 4 (33,3 %) ont réfuté le récit.

Contexte et risques

Le grand avantage des chatbots et des résumés IA est leur capacité à fournir un contexte clair et à expliquer la source du récit mensonger. Cependant, la langue peut être une arme à double tranchant. Une étude publiée en mai dans la revue scientifique Nature a révélé que lorsque les modèles étaient interrogés sur le gouvernement et les dirigeants de la Chine en chinois, ils donnaient des réponses plus positives par rapport aux mêmes questions en anglais. Selon les chercheurs, la différence était due au mécanisme de censure important que Pékin applique aux plateformes de réseaux sociaux dans le pays.

Le fait que, dans une partie cruciale des cas, les chatbots soient capables de contredire de manière critique les récits mensongers, tout en fournissant des informations précises, peut en faire un outil important pour réduire la portée et l'impact des fake news. Cependant, ce statut fait également des chatbots une cible d'attaque de la part d'acteurs qui chercheront à façonner les réponses qu'ils fournissent dans l'esprit des récits mensongers qu'ils cherchent à diffuser. En août, le site Politico a révélé qu'Israël mène une campagne d'information conçue pour faire pencher en sa faveur les réponses des chatbots IA tels que ChatGPT sur des questions comme Gaza et Tsahal, en publiant et en introduisant des articles pro-israéliens dans les grands modèles de langage (LLM). Le défi pour les entreprises qui développent des modèles d'IA est de maintenir le haut niveau de fiabilité de leurs produits et de les protéger avec succès contre les tentatives d'ingérence et d'influence.