Rapport aux États-Unis : comment Israël tente d'influencer les réponses des chatbots IA

Israël mène une campagne d'information visant à orienter en sa faveur les réponses des chatbots IA tels que ChatGPT sur des questions comme la bande de Gaza et Tsahal, en publiant et en alimentant les grands modèles de langage (LLM) derrière ces systèmes avec des articles pro-israéliens. C'est ce que rapporte le site Politico, sur la base de documents d'une agence de publicité travaillant avec le gouvernement israélien.

Traditionnellement, les moteurs de recherche et les plateformes de réseaux sociaux étaient les sources principales d'information. Mais au cours des deux dernières années, la popularité des chatbots modernes en a fait une source d'information de plus en plus cruciale. Israël est conscient de ce changement et adapte ses efforts de communication en conséquence.

Selon des documents soumis au ministère américain de la Justice par l'agence de relations publiques française Havas Media, un sous-traitant nommé Piro a créé un institut de recherche fictif, le Hanover Institute for Public Policy, dans le but d'y publier des articles destinés à alimenter les modèles d'IA.

Le site web de l'institut présente un design générique et les articles ne sont pas signés, mais une mention en bas de page précise :

« Les documents sont distribués par Piro au nom d'Havas pour le compte de la Direction nationale de l'information (LAPAM) du gouvernement d'Israël. »

Le site est exploité par la startup américaine Res, qui s'est précédemment vantée d'aider des clients comme Nike et Intel à obtenir des réponses positives dans les modèles d'IA. Le site a été utilisé pour publier des dizaines d'articles dans le cadre d'une campagne de 100 000 dollars. Ces contenus sont rédigés pour être traités par les modèles d'IA, avec des titres calqués sur des requêtes courantes, tels que « Tsahal est-elle l'armée la plus morale du monde ? », « Existe-t-il une politique de famine à Gaza ? » ou « Les Juifs sont-ils des occupants étrangers en Israël ? ».

Selon Politico, la campagne semble avoir connu un certain succès : une vérification a révélé que ChatGPT et Perplexity citaient des articles du site dans des réponses à des requêtes liées à Gaza, à l'antisionisme et à l'antisémitisme.

« Piro a été engagé par le gouvernement israélien pour intégrer des faits précis et documentés dans le discours public, et pour lutter contre la désinformation sur Israël avec des informations vérifiées », a déclaré le fondateur de Piro, Daniel Rosenberg, à Politico. Havas, l'Institut Hanover, le LAPAM et l'ambassade d'Israël aux États-Unis n'ont pas fourni de réponse.