L'IA renforce les campagnes de désinformation politique en Asie du Sud-Est

Les dangers de l'intelligence artificielle retiennent l'attention mondiale, alors que des experts avertissent que cette technologie révolutionnaire pourrait doter les acteurs d'influence politique en Asie du Sud-Est de nouveaux outils puissants pour propager la désinformation, en particulier dans une région caractérisée par de jeunes populations très connectées.

Un exemple alarmant a récemment été révélé par la société Anthropic, qui a détaillé comment son modèle d'intelligence artificielle Claude a été exploité dans le cadre d'une campagne d'influence politique en Malaisie. L'opération a consisté à créer une plateforme commerciale conçue pour la manipulation électorale, s'appuyant sur un réseau d'environ 1 000 comptes sur X, un faux site d'actualités baptisé « Malaysia Pulse » et une série de documents falsifiés.

Selon l'entreprise, cette campagne visait probablement à influencer les électeurs lors des cycles politiques récents en Malaisie. Elle a exploité des données de recensement et électorales pour attiser les divisions sociétales sensibles — telles que la race, la religion et la monarchie — dans l'ensemble des 222 circonscriptions parlementaires.

Bien que l'opération ait été neutralisée après l'intervention d'Anthropic, sa mise en lumière a soulevé de vives inquiétudes quant à l'utilisation potentielle de l'IA lors de futures élections en Asie du Sud-Est, une région déjà aux prises avec la prolifération de fausses informations.

Katie Harbath, ancienne directrice des politiques publiques chez Meta, a souligné que le cas de la Malaisie illustre la manière dont l'IA transforme la désinformation. Elle a expliqué que l'IA permet de produire rapidement et à faible coût des contenus personnalisés à grande échelle.

« L'intelligence artificielle peut amplifier de tels événements : elle permet de générer davantage de contenu, de manière personnalisée, plus rapidement et à moindre coût », a déclaré Mme Harbath, qui dirige actuellement le cabinet de conseil technologique Anchor Change. Elle a toutefois souligné qu'un mécanisme de distribution, généralement fourni par les réseaux sociaux, reste indispensable.

Anthropic a détaillé cette activité en Malaisie dans son dernier rapport publié en septembre. Le rapport décrit comment divers acteurs ont utilisé Claude pour établir de faux profils sur les réseaux sociaux et des sites d'actualités fictifs ciblant des publics sur six continents.

L'entreprise a indiqué que parmi les acteurs impliqués dans ces opérations d'influence figurent des gouvernements, des organes de propagande étatiques, des médias publics ainsi que des entreprises privées vendant des services d'influence.

L'Asie du Sud-Est n'est pas étrangère à la désinformation. Ces dernières années, la journaliste philippine et prix Nobel de la paix Maria Ressa a comparé les Philippines à une « boîte de Pétri » pour l'exploitation de la désinformation et des fausses nouvelles, des techniques testées localement avant d'être reproduites avec succès en Occident.

Cependant, l'intelligence artificielle menace de simplifier considérablement ce processus.

« Fondamentalement, l'IA imite simplement ce que nous aurions qualifié il y a quelques années d'usine à trolls », a analysé Rossine Fallorina, du institut de recherche philippin Sigla. Selon lui, la rapidité de génération supprime les goulets d'étranglement traditionnels : « Vous n'avez pas besoin de dix personnes pour rédiger un récit ou une histoire. Il suffit d'écrire une consigne et de diffuser. »

L'année dernière, OpenAI a bloqué des comptes qui utilisaient l'intelligence artificielle pour générer des commentaires sur la politique philippine et des personnalités publiques sur les réseaux sociaux. De nombreux commentaires artificiels exprimaient leur soutien au président Ferdinand Marcos Jr.

Les experts craignent que le déploiement de l'IA sur les réseaux sociaux n'exacerbe les fractures politiques et sociales. « Cela nourrit la polarisation politique et exploite les divisions existantes », a estimé Bridget Welsh, professeure associée à l'Université de Nottingham en Malaisie.

Les élections générales en Malaisie sont prévues pour fin 2027, tandis que les Philippines et le Cambodge s'attendent à des scrutins en 2028, suivis par l'Indonésie l'année suivante.

Le Dr Ben Loh, maître de conférences en communication à l'Université Monash en Malaisie, a relevé que du contenu généré par IA a été utilisé pour alimenter la haine à l'encontre des réfugiés rohingyas ayant fui le Myanmar vers la Malaisie en pleine guerre civile.

« Les gens arrivent déjà avec cette haine profondément ancrée en eux, et lorsqu'ils voient un tel contenu, même s'il est généré par l'IA, cela ne fait que conforter ce qu'ils croient déjà être vrai », a-t-il affirmé.

Le rapport d'Anthropic a révélé que le faux site d'actualités « Malaysia Pulse » a copié de véritables articles de médias malaisiens, avant d'utiliser le modèle d'IA pour les réécrire à plusieurs reprises et les publier sous de faux noms de journalistes.

Le site a également republié des articles provenant de médias étrangers liés à des États comme la Russie et la Chine, notamment TV BRICS, Xinhua, Sputnik/RIA et CGTN, tout en supprimant toute référence aux sources d'origine.

« Dans chaque cas où une activité d'influence politique a été identifiée, l'entreprise a perturbé l'opération, a utilisé ses enseignements pour renforcer ses défenses et a partagé des renseignements avec les autorités et les partenaires de l'industrie selon les besoins », conclut le rapport.