Google suspend une nouvelle fonctionnalité IA de Google Earth face aux risques de fausses images

Moins de 48 heures après avoir lancé la nouvelle fonctionnalité d'intelligence artificielle dans Google Earth, Google a gelé l'option suite à des craintes qu'elle ne permette de créer de fausses images satellites pouvant être utilisées pour diffuser de la désinformation.

La fonctionnalité, qui intégrait le générateur d'images Nano Banana 2 dans Google Earth, permettait aux utilisateurs d'ajouter, via des instructions textuelles, des objets, des structures et des événements qui ne se sont pas produits sur des images satellites, des photographies aériennes et des vues 3D réelles. Les images pouvaient ensuite être téléchargées et partagées sur les réseaux sociaux.

Dans un communiqué publié vendredi, Google a déclaré suspendre la fonctionnalité « pendant que nous travaillons à la mise en place de mécanismes de protection plus robustes », après avoir identifié des utilisateurs partageant des images créées avec cet outil d'une manière susceptible de violer la politique de l'entreprise. « Nous savons que les gens accordent une confiance unique à Google Earth en tant que source présentant une image fiable du monde », a-t-il été déclaré.

Lors de tests effectués par la BBC, des chercheurs ont réussi à créer, à l'aide de l'outil, une série de scénarios fictifs particulièrement crédibles, notamment la tour Eiffel s'effondrant à Paris, un gouffre immense engloutissant la Grande Pyramide de Gizeh et des chars russes au centre de Kiev. Des experts ont averti que le danger ne réside pas seulement dans la qualité des images, mais dans le fait qu'elles sont « soudées » sur un emplacement réel sur les cartes de Google. Selon eux, la combinaison d'une image satellite réelle et d'un contenu généré par intelligence artificielle confère au faux une crédibilité particulièrement élevée.

L'expert en désinformation Henk van Ess, qui a testé la fonctionnalité, a également réussi à créer une centrale nucléaire fictive en Iran, un camp de réfugiés inexistant à la frontière entre les États-Unis et le Mexique, et un hôpital fictif dans la bande de Gaza avec, à côté, un cratère ressemblant au résultat d'un bombardement. « Le faux n'a pas besoin d'être convaincant en soi. Il hérite de la crédibilité de la carte sur laquelle il est créé », a-t-il déclaré.

Google a indiqué que chaque image créée à l'aide de son outil d'IA inclut un filigrane invisible et que leur origine peut être vérifiée via Gemini ou Google Lens. Cependant, selon la BBC, dans certains cas, il était possible de contourner les mécanismes d'identification et même d'amener Gemini à identifier des images falsifiées comme étant réelles. Certains outils de détection externes n'ont pas non plus réussi à identifier que les images avaient été créées à l'aide de l'IA.

D'autres tests ont révélé qu'il était également possible de contourner certains mécanismes de protection de Google en modifiant légèrement la formulation des instructions. Ainsi, par exemple, une demande de création d'une « potence pour traîtres » près du Parlement britannique a été bloquée, mais une formulation plus générale a été acceptée et l'image a été créée. Une demande d'ajout du mot « Trump » sur la pelouse de la Maison-Blanche a été rejetée, mais au même endroit, l'outil a accepté de créer un jardin communautaire.

Selon Henry Ajder, chercheur spécialisé dans la détection de contenus générés par IA, la capacité de produire de fausses images satellites de zones de guerre ou de catastrophes pourrait être particulièrement dangereuse. « Lorsque les événements se déroulent rapidement et que les informations sont limitées, de telles images peuvent déstabiliser et induire en erreur à la fois les journalistes et le public », a-t-il déclaré.

Bill Greer, analyste géospatial et cofondateur de l'organisation satellite à but non lucratif Common Space, a également mis en garde contre l'atteinte à la confiance du public. Selon lui, les images satellites sont considérées depuis des années comme une source d'information extrêmement fiable, mais la prolifération de faux, parallèlement à la réduction de l'accès aux données satellites réelles par les gouvernements, pourrait éroder cette confiance. « Plus nous verrons d'images fausses et moins d'images réelles, plus il sera difficile de savoir ce en quoi on peut avoir confiance », a-t-il déclaré.