Jusqu'en 2028 : le plan de la Chine pour prendre le contrôle des réponses fournies par le chat
Les gens utilisent l'IA pour répondre à des questions sur un large éventail de sujets. Mais derrière les réponses obtenues, une lutte se déroule entre différents pays pour le contenu sur lequel les modèles sont basés. Pour gagner la guerre des récits, la Chine est prête à investir des capitaux, et jusqu'à présent, cela fonctionne pour elle.
Lorsque vous interrogez le chatbot sur un conflit territorial, un événement historique ou une position politique, la réponse obtenue par l'intelligence artificielle peut sembler neutre, raisonnée et totalement objective. Mais sous le capot technologique qui fournit la réponse précise, une guerre de l'ombre se déroule entre différentes parties pour chaque mot.
Il s'agit d'un effort étatique bien financé et bien organisé : de l'investissement de ressources pour créer les modèles et construire les ensembles de données, jusqu'à la pression directe sur les entreprises technologiques. L'objectif n'est pas seulement d'influencer ce que les gens voient, mais de déterminer ce que la machine sait.
Recrutement et diffusion de données : la Chine s'est préparée à la guerre
L'un des exemples les plus marquants est la Chine, qui travaille à devenir une puissance mondiale en matière de données pour l'entraînement de modèles d'intelligence artificielle. Pékin veut concurrencer le récit occidental mené par les États-Unis et intégrer les valeurs du Parti communiste dans les systèmes d'IA mondiaux.
Comme l'a récemment rapporté le New York Times, la Chine comprend que les principaux modèles d'IA mondiaux sont entraînés principalement sur des données en anglais et reflètent une vision du monde occidentale. Du point de vue de Pékin, il s'agit d'une vulnérabilité stratégique qui fait que les récits occidentaux sur les droits de l'homme, le statut de Taïwan et la politique l'emportent sur la position chinoise.
Selon le rapport, la Chine a présenté un plan pour devenir un fournisseur de données d'entraînement d'ici 2028. L'objectif est de créer des bases de données de haute qualité dans plus de deux douzaines de domaines stratégiques, de recruter des experts pour l'étiquetage des données, d'ouvrir des cours universitaires et de distribuer des bases de données en open source, le tout avec des informations conformes aux valeurs chinoises.
Inondation de contenu : comment ça marche
Osher Cohen, fondateur de la société Yo Secure et expert en cybersécurité, explique : « Certains modèles d'IA, surtout lorsqu'ils sont connectés à la recherche sur Internet, recherchent des sources avant de formuler une réponse. Si une partie parvient à générer beaucoup de contenu en ligne autour d'un certain récit, à s'assurer qu'il semble crédible et qu'il a une forte présence dans la recherche, elle augmente la probabilité que cette information entre dans le processus de formation de la réponse de l'IA. »
Cohen explique que le vrai problème est la transparence : « Le vrai problème du point de vue de l'utilisateur est qu'il est difficile de voir tout ce processus. Nous recevons une réponse organisée et confiante, mais nous ne savons pas toujours pourquoi ces sources spécifiques y sont entrées. La question aujourd'hui n'est plus seulement de savoir si l'IA a tort, mais aussi qui a réussi à influencer l'information que l'IA a vue avant de nous répondre. »
Lutte contre la désinformation : le rapport sur Israël
Le site Politico a rapporté qu'Israël a lancé une campagne d'influence aux États-Unis pour alimenter les modèles de langage avec des informations positives sur les activités de Tsahal et la guerre à Gaza, dans un contexte de baisse du soutien public. Selon le rapport, la Direction nationale de la diplomatie publique a employé une agence de publicité française, Havas Media, avec un sous-traitant appelé Piro. 100 000 dollars ont été investis dans la campagne, et un site Web pour le « Hanover Institute for Public Policy » a été créé, contenant des dizaines d'articles anonymes sous forme de questions-réponses, ce qui aide à l'absorption du contenu dans les modèles.
Rappelons qu'en 2024, OpenAI a révélé avoir identifié et bloqué cinq opérations d'influence secrètes provenant de Russie, de Chine, d'Iran et d'Israël, utilisant ses outils d'IA pour rationaliser et accélérer ses activités de propagande.
Vive inquiétude avant les élections
Les prochaines élections en Israël seront une étude de cas concernant la capacité des modèles à influencer le public. Le Dr Tehilla Shwartz Altshuler, chercheuse principale à l'Institut israélien de la démocratie, explique : « Le niveau de pénétration des chatbots en Israël est l'un des plus élevés au monde, tandis que la littératie numérique est médiocre au mieux. Les gens utilisent le chat comme un conseiller pour obtenir des informations sur les questions à l'ordre du jour, y compris les élections. La crainte est que cela devienne un outil d'influence important, car le résultat donné dans un chatbot est personnel, ce qui rend difficile la détection des empreintes digitales d'une campagne d'influence en temps réel. »
