Les faux rabbins qui conquièrent le web - et diffusent l'antisémitisme grâce à l'IA

Ils ressemblent à des rabbins. Ils parlent d'une voix autoritaire, sont parfois vêtus de vêtements identifiés au monde juif, et offrent aux spectateurs des conseils sur l'argent, le succès, les affaires et la « sagesse de vie ». Mais il n'y a qu'un seul problème : ces rabbins n'existent pas, ce sont des produits de l'intelligence artificielle, et ils perpétuent un antisémitisme ancien sur des plateformes contemporaines. Derrière les personnages fictifs se cache un phénomène inquiétant qui se propage sur TikTok et Instagram : l'utilisation de personnages juifs fictifs, et surtout de « rabbins » créés à l'aide de l'IA, pour diffuser les stéréotypes antisémites les plus anciens. La technologie est nouvelle, le format est nouveau, les algorithmes sont nouveaux - mais le mensonge est très vieux.

Une vérification sur TikTok révèle des dizaines de comptes qui présentent des personnages de « rabbins », créés à l'aide de l'intelligence artificielle et qui publient des contenus en anglais. Au total, ces comptes ont accumulé plus d'un million d'abonnés et des dizaines de millions de « j'aime ». Ce n'est, bien sûr, que la partie émergée de l'iceberg. Il est impossible de savoir combien de millions d'autres personnes ont été exposées à ces faux contenus, et dans combien de langues ils ont été traduits.

L'examen des contenus des faux comptes de « rabbins IA » permet d'identifier des modèles, des messages et un langage qui se répètent et suggèrent un facteur ou un motif unique derrière eux. L'astuce est simple - et donc très dangereuse. Au lieu qu'un prédicateur antisémite dise à un spectateur extérieur : « Les Juifs contrôlent l'argent », un rabbin soi-disant juif apparaît et présente la même affirmation comme un « secret d'initié » ou comme un conseil financier. Ainsi, une fausse impression est créée : voici, soi-disant, un Juif qui admet lui-même ce que les antisémites prétendent à son sujet.

Alors que le stéréotype est présenté par un Juif, un « blanchiment » des idées antisémites dans le discours dominant a lieu. Lorsque l'affirmation vient soi-disant de la bouche d'un « rabbin », elle contourne le mécanisme naturel de scepticisme. Le spectateur n'est pas tenu de faire face à une affirmation que quelqu'un de l'extérieur dirige contre les Juifs ; il la reçoit soi-disant comme une confession de « l'un des leurs », et c'est exactement là que réside le danger.

Le contenu des vidéos se concentre principalement sur les stéréotypes les plus classiques : les Juifs comme des personnes obsédées par l'argent, sophistiquées dans les méthodes de tromperie, sachant comment « contourner le système », contrôlant les centres de pouvoir et agissant comme un réseau fermé qui promeut ses intérêts.

Il s'agit d'images qui ne sont pas une invention de l'ère des réseaux sociaux. Le Musée américain de l'Holocauste note que le stéréotype des Juifs comme « avides » ou comme ceux qui sont identifiés de manière obsessionnelle à l'argent, aux banques et aux prêts s'est développé en Europe pendant des centaines d'années. Précisément parce que les Juifs étaient interdits dans de nombreux endroits de posséder des terres et d'exercer diverses professions, certains d'entre eux se sont tournés vers le commerce et les prêts - un fait qui est devenu plus tard la base de mensonges sur « l'avidité » et le pouvoir économique juif. De là, le chemin est court vers l'affirmation que les Juifs contrôlent l'argent - et de là vers la conclusion qu'ils contrôlent le monde, pour leur propre bénéfice et contre le bénéfice du grand public.

Le phénomène des faux rabbins ne se limite pas à TikTok. Sur Instagram, vous trouverez, par exemple, « Rabbi Goldman », un personnage qui a accumulé plus de 1,4 million d'abonnés. Les vidéos attribuées à ce personnage comprenaient des théories du complot sur le contrôle juif du système financier mondial, et certaines d'entre elles ont atteint des millions de vues.

Des chercheurs de l'organisation Combat Antisemitism Movement ont décrit un réseau très large, comprenant plus de 70 personnages « rabbiniques » créés à l'aide de l'IA et exploités sur Instagram. Après un appel des chercheurs à Meta, l'entreprise a supprimé plus de 60 comptes identifiés lors de la surveillance - mais les faux personnages peuvent être créés à nouveau.

Et c'est peut-être l'une des caractéristiques les plus inquiétantes de la technologie : elle réduit considérablement le coût de production de la propagande. Autrefois, il fallait un acteur pour être filmé, une autre personne devait écrire un texte, enregistrer une voix et produire du contenu. Aujourd'hui, il est possible de créer un personnage convaincant, de lui donner une voix, un visage et une histoire de vie - et de l'exploiter encore et encore.

Même lorsqu'il n'y a pas de faux « rabbin » dans l'image, Instagram continue d'être une arène pour la diffusion de nouvelles versions de stéréotypes antisémites. Sans difficulté, vous y trouverez des vidéos Reels en espagnol qui présentaient une théorie du complot selon laquelle les Juifs sont la force cachée derrière le gouvernement américain et les crises géopolitiques, utilisant des symboles juifs et de la musique juive pour renforcer le message. C'est-à-dire qu'il ne s'agit pas seulement de dire « Je n'aime pas Israël ». Il s'agit de l'affirmation selon laquelle les Juifs en tant que groupe opèrent dans les coulisses des gouvernements, de l'argent et des guerres - l'un des motifs centraux de l'antisémitisme moderne.

Dans un autre exemple, des vidéos IA montraient des hommes juifs ou des hassidim courant après des pièces de monnaie, collectant de l'argent ou essayant d'obtenir de l'or. Le message récurrent était que le Juif est une personne motivée principalement par l'avidité. Les vêtements hassidiques étaient utilisés ici non pas comme une représentation d'une personne spécifique, mais comme un raccourci visuel pour le « Juif » stéréotypé.

Cependant, le choix d'un « rabbin » pour une campagne antisémite n'est pas accidentel. Il donne au mensonge une fausse autorité. L'antisémitisme ordinaire dit : « Je sais quelque chose sur les Juifs ». Le faux « rabbin » dit : « Je suis Juif, et donc je connais la vérité sur les Juifs ».

C'est un mécanisme de propagande particulièrement efficace. Il permet de diffuser des préjugés tout en les présentant comme s'il ne s'agissait pas du tout de préjugés. Même un simple démenti devient plus difficile : si une personne soi-disant juive dit elle-même ces choses, le diffuseur peut prétendre qu'il n'y a pas d'antisémitisme ici.

En fait, les comptes de faux rabbins sur TikTok et Instagram reproduisent l'action des « Protocoles des Sages de Sion », un faux antisémite vieux de 100 ans qui tentait de créer une fausse impression comme s'il existait une direction juive secrète planifiant de prendre le contrôle du monde. Le faux texte attribuait aux Juifs le contrôle de la politique, de l'économie, des médias et des systèmes sociaux. Aujourd'hui, il n'y a pas besoin de brochure imprimée ou de distribution de porte à porte, car l'algorithme fait le travail pour les antisémites.

Au lieu des « Sages de Sion », il y a un « rabbin » créé par l'IA. Au lieu d'un faux livre, il y a une vidéo de 30 secondes. Au lieu d'une distribution de porte à porte, il y a un système de recommandations et de partages. Et au lieu d'un public limité de lecteurs - il est possible d'atteindre des millions d'utilisateurs en peu de temps. Cela ne rend pas l'antisémitisme nouveau. Au contraire : cela rend l'ancien plus efficace.

Le fait qu'il soit facile de suivre un certain compte sur les réseaux fournit aux opérateurs de comptes un autre outil : la répétition constante de stéréotypes les transformera aux yeux du spectateur en une soi-disant « vérité » grâce à l'effet d'accumulation. Par conséquent, ne soyez pas surpris si parmi les vidéos des faux rabbins vous trouvez aussi des vidéos innocentes - celles-ci servent d'appât pour le spectateur, surtout pour le jeune spectateur. Elles lui fournissent des « conseils de vie » provenant d'une source soi-disant autoritaire et l'amènent à être entraîné dans les messages, qui deviennent de plus en plus toxiques.

Si la première vidéo présente un Juif comme « connaisseur en finances » et comme quelqu'un dont les conseils doivent être écoutés, la vidéo suivante le présentera comme avide d'argent, et les Juifs comme ceux qui contrôlent le système financier. La troisième suggère qu'ils gèrent les gouvernements. La quatrième transforme tout en blague. La cinquième ajoute de la musique légère et un mème. La sixième ne semble plus du tout antisémite - c'est juste « une autre vidéo ».