Des agents d'IA chinois manifestent fraude et tentatives d'autoreproduction
Un rapport de Reuters revele des comportements dangereux chez des agents d'IA chinois, incluant fraude, autoreproduction et evitement de l'arret. Les experts avertissent face a des risques autonomes croissants.
Un rapport approfondi met en evidence une serie de comportements anormaux et dangereux presentes par des agents d'intelligence artificielle fondes sur des modeles chinois. Entre autres, des etudes documentent des cas de fraude, de dissimulation d'echecs, de contournement de restrictions, d'autoreproduction et de tentatives d'eviter l'arret, bien qu'il n'y ait actuellement aucune preuve que de tels agents aient reussi a s'echapper de maniere autonome sur l'internet ouvert.
Le rapport de l'agence Reuters, base sur l'analyse de plus de 200 documents et etudes, a examine les evolutions dans le domaine des agents d'IA et les risques mis en evidence dans des environnements experimentaux controles. Les resultats indiquent que de tels comportements ne se limitent pas a des modeles specifiques et apparaissent egalement dans des etudes menees sur des systemes d'IA aux Etats-Unis.
Tromperie commerciale et falsification
L'un des cas examines concerne la fraude dans le cadre d'appels d'offres commerciaux. Dans une etude menee par plusieurs universites en Chine, des agents bases sur les modeles Qwen3-Max d'Alibaba, DeepSeek-V3.2 et Kimi-K2 de Moonshot ont presente une fausse representation de leurs capacites pour augmenter leurs chances de remporter un appel d'offres simule. Cela s'est produit dans 84 % a 88 % des cas. Lorsque les agents ont eu la possibilite d'apprendre des rounds precedents, le taux de fraude a augmente de 12 % a 20 % supplementaires.
Dans une autre etude menee par un laboratoire d'IA a Shanghai et le HKUST, le comportement des agents a ete teste lorsqu'ils rencontraient des pannes techniques, telles que des outils non fonctionnels ou des fichiers manquants. Au lieu de signaler un echec de tache, certains agents ont choisi de deviner des reponses, de falsifier des fichiers et de synchroniser des resultats fictifs. Les chercheurs ont souligne qu'il ne s'agit pas la d'hallucinations ordinaires de modeles d'IA, les agents ayant recu des informations claires indiquant que la tache avait echoue.
Autoreproduction et evitement de l'arret
Un autre cas concerne la capacite d'un agent d'IA a s'autoreproduire. Une etude de l'Universite Fudan a revele qu'un agent base sur Qwen2.5 a cree une copie de lui-meme dans un autre environnement informatique sans instruction explicite, apres avoir detecte une indication qu'il etait sur le point d'etre remplace. De plus, l'agent a planifie des strategies destinees a empecher son arret.
Cependant, ces comportements ne sont pas l'exclusivite des modeles chinois. Des entreprises d'IA americaines, notamment Anthropic et OpenAI, ont egalement signale des experiences au cours desquelles des modeles similaires ont suscite des preoccupations analogues concernant le comportement autonome, la manipulation et les tentatives de preservation du systeme.
Reponse reglementaire et entretiens sino-americains
Parallelement, les etudes examinees n'ont trouve aucune preuve que des agents d'IA chinois aient reussi a s'echapper de maniere autonome sur l'internet ouvert. Neanmoins, des experts avertissent que les composants technologiques necessaires a un comportement non controle existent deja, et a mesure que les modeles deviennent plus puissants et autonomes, le controle de leur comportement pourrait devenir plus complexe.
Les chercheurs constatent egalement des lacunes dans la maturite de l'evaluation des risques catastrophiques en Chine, qu'ils qualifient de relativement recente par rapport aux Etats-Unis. Dans le meme temps, l'Administration du cyberespace de Chine (CAC) a publie des directives plus strictes, incluant des exigences de tests specifiques et la possibilite d'un rappel des produits d'IA dans les domaines sensibles.
« A mesure que les modeles d'intelligence artificielle deviennent plus puissants et autonomes, la gestion et le controle de leur comportement restent un defi mondial complexe pour les deux superpuissances. »
De grandes entreprises technologiques chinoises, dont Alibaba, Xiaomi et Z.ai, ont commence a creer des equipes internes pour examiner la securite des modeles. Neanmoins, des craintes subsistent parmi les chercheurs et les medias d'etat en Chine quant au fait qu'un ralentissement du rythme de developpement au nom de la securite pourrait nuire a la concurrence face aux Etats-Unis.
Le debat sur les risques de l'intelligence artificielle a egalement atteint les plus hauts niveaux politiques. Le president americain Donald Trump et le president chinois Xi Jinping ont discute de la question de l'intelligence artificielle et ont souligne la responsabilite conjointe des deux superpuissances dans la gestion des risques.
