Une nouvelle faille d'IA expose les consommateurs à des escroqueries mondiales
Des chercheurs israéliens révèlent une méthode de fraude exploitant le GEO pour manipuler les moteurs d'IA et piéger les utilisateurs avec de faux numéros de service client.
Une nouvelle étude en cybersécurité met en lumière une méthode de fraude sophistiquée exploitant la confiance aveugle du public envers les moteurs d'intelligence artificielle. Menée par les chercheurs israéliens Dan Lasker, Ariel Simon et Naor Khaziz, anciens membres d'unités de renseignement d'élite de Tsahal, l'étude démontre comment des pirates informatiques utilisent l'optimisation pour moteurs génératifs (GEO) afin de manipuler les résultats de recherche.
Manipulation GEO et Escroqueries
Selon les conclusions, 92 % des utilisateurs acceptent les réponses générées par l'IA comme une vérité absolue sans vérifier les sources. Les attaquants exploitent cette habitude en disséminant des données malveillantes sur le web, intégrant notamment des numéros de téléphone truffés de caractères Unicode spéciaux et d'émojis. Des moteurs tels que ChatGPT, Gemini et Google AI Overview intègrent ces modifications et les présentent comme des contacts officiels.
Les consommateurs recherchant des informations légitimes — telles que les horaires d'une banque ou l'annulation d'un vol — composent ainsi de faux numéros. Des centres d'appels frauduleux se font alors passer pour le service client officiel, facturant des commissions exorbitantes. Le système développé par les chercheurs a détecté des attaques actives contre 374 marques internationales, incluant Delta, Lufthansa, Airbnb et Chase.
Le Défi de la Responsabilité
Du contenu malveillant est constamment publié sur des sites gouvernementaux, académiques et réseaux sociaux. Même supprimées, des copies archivées continuent d'alimenter les modèles d'IA.
« Les gens ont appris à se méfier des liens suspects, mais lorsqu'un numéro de téléphone est présenté comme un fait direct par une IA, il est perçu comme totalement fiable », explique Dan Lasker.
Les géants de la technologie et les entreprises ciblées se renvoient la responsabilité, laissant les consommateurs sans défense face à cette faille systémique.
