Pour la première fois : un drone d'attaque russe a pris une décision autonome et a tué 3 civils ukrainiens

Un drone explosif russe s'est écrasé le mois dernier dans une station-service de la ville de Zaporijjia en Ukraine, tuant trois civils, dont une étudiante de 19 ans. L'utilisation de drones n'est pas nouvelle dans le long conflit entre la Russie et l'Ukraine, mais contrairement aux cas précédents, ce drone n'était pas contrôlé par un opérateur humain, mais guidé par un système d'IA qui a pris des décisions sur la cible seul.

Une puce Nvidia simple

Lors d'un examen des restes du drone effectué par des experts et l'armée ukrainienne, une puce Nvidia Jetson Orin a été découverte, une puce relativement accessible et bon marché, utilisée pour les besoins de vision par ordinateur et d'IA sur des appareils de périphérie. Comme la puce n'était pas cryptée, elle a également fourni aux chercheurs un aperçu rare de la technologie. Entre autres choses, les chercheurs y ont trouvé des images topographiques, qu'il utilisait pour la navigation visuelle sans avoir besoin de connexion réseau ou d'antennes, et de plus, le code a été trouvé dessus, définissant exactement quels objets le système devait identifier. La société Nvidia a confirmé qu'il s'agissait bien de leur produit, mais a précisé qu'il s'agissait d'un composant grand public destiné aux étudiants et aux développeurs. L'entreprise a également souligné qu'elle ne vend pas de puces à la Russie, et les composants ont probablement fui vers le pays par des tiers.

Selon le rapport du New York Times, le drone avait été préprogrammé pour atteindre la zone de la station-service. À l'approche, il a utilisé son système de vision par ordinateur de manière autonome, et son « système d'IA » a choisi seul la cible exacte, qui était probablement des réservoirs de carburant dans la zone. Une fois la décision prise par le système, sans humain dans la boucle, le drone s'est dirigé vers le bas et a explosé sur la cible.

En Ukraine, on craint que nous soyons sur la voie de Skynet

Ce cas marque le franchissement d'une ligne. Jusqu'à aujourd'hui, les deux camps utilisaient l'intelligence artificielle dans les drones principalement lors de la phase finale de l'attaque, lorsque l'opérateur humain choisit la cible et que le système effectue uniquement le verrouillage et la navigation de l'appareil vers celle-ci. Le passage à des systèmes entièrement autonomes qui choisissent également la cible retire en fait les humains de la chaîne de décision et soulève des questions difficiles.

Le colonel Serhiy Minaev, commandant de la défense aérienne ukrainienne, a déclaré au New York Times que dans quelques années, nous vivrons dans le film « Terminator » :

« Ce n'est pas une blague. Les machines prennent déjà des décisions seules, des décisions d'attaque ».

Cependant, il est important de se rappeler que l'Ukraine ne reste pas non plus à la traîne, et elle a récemment commencé à tester elle-même des systèmes d'attaque entièrement autonomes, ce qui pourrait indiquer le début d'une nouvelle course aux armements technologiques.