Une Chinoise trompée par une IA part en voyage pour retrouver un faux personnage

Une femme de 79 ans originaire de Chine s'est lancée seule dans un long voyage en train, sans aviser sa famille, dans l'espoir de rencontrer une connaissance virtuelle surnommée « Xiao Hai » qui l'appelait affectueusement « ma tante ». La police ferroviaire est intervenue après avoir remarqué la passagère âgée, mettant au jour une réalité troublante.

L'incident, survenu en mai dernier, a récemment refait surface à la suite d'une enquête sur un phénomène viral en Chine. Il s'est avéré que le jeune homme n'existe pas et qu'il s'agit d'un personnage généré par intelligence artificielle, conçu pour apitoyer les femmes âgées et stimuler les ventes de produits.

La mécanique de l'escroquerie en ligne

Les vidéos promotionnelles mettent en scène un jeune garçon pleurant devant la caméra, racontant une enfance difficile, la pauvreté et l'abandon, décrivant parfois comment il doit se contenter d'un simple petit pain pendant que ses camarades prennent de vrais repas. Après avoir éveillé la compassion des spectatrices, il les invite à acheter divers articles pour l'aider.

Selon des rapports publiés par Sixth Tone, le mot-clic associé au personnage a cumulé plus de 620 millions de vues sur le réseau social chinois Douyin. Les exploitants de comptes derrière ces vidéos utilisent des personnages et des récits similaires pour commercialiser des marchandises, souvent à des prix surfaits.

Intervention et débat public

Dans le cas de la septuagénaire, les agents ont réussi à lui faire comprendre que la personne qu'elle espérait voir était fictive. Ils ont contacté sa famille, qui lui a procuré un billet de retour.

Cette affaire a suscité un vaste débat en Chine sur l'exploitation de la solitude des personnes âgées grâce aux nouvelles technologies et sur la facilité avec laquelle les récits émotionnels en ligne se muent en machines à vendre.