Tsahal fait face à une polémique sur l'utilisation de l'IA à Gaza

Le film documentaire "NZA" a remis au premier plan l'une des questions les plus controversées entourant les combats à Gaza : la mesure dans laquelle Tsahal utilise l'intelligence artificielle pour localiser et identifier des cibles. Jusqu'à présent, l'essentiel des allégations sur ce sujet avait été publié dans des rapports de médias étrangers, notamment par le "New York Times", qui a révélé comment l'unité 8200 a intégré des capacités d'IA dans ses systèmes développés à des fins de renseignement.

Entre autres, dans un extrait révélé du film, l'un des interviewés a déclaré que bien que le nombre de victimes résultant des "dommages collatéraux" lors des frappes ne soit pas toujours vérifié, "l'approbation avait été donnée pour 500 [morts]" dans l'une d'elles. Dans un entretien accordé à ynet, un haut responsable militaire a rejeté cette allégation, expliquant que "le chiffre de 500 est absurde". Il a souligné qu'il existe différents niveaux de NZA, variant selon les approbations des hauts échelons, mais que ceux-ci n'atteignent pas les centaines, seulement de faibles dizaines.

De nombreuses tentatives pour localiser des cibles potentielles, combinant l'intelligence artificielle et la reconnaissance faciale, sont le fruit d'une coopération entre des membres de l'unité 8200 et des réservistes travaillant dans des entreprises technologiques telles que Google, Microsoft et Meta. Au sein de l'unité 8200 a été créé ce qui est devenu connu sous le nom de "Studio" — un centre innovant où des experts sont associés à des projets d'IA. Selon le "New York Times", ces technologies de pointe ont parfois conduit à des erreurs d'identification et à la mort de civils dans la bande de Gaza.

L'utilisation de l'IA et le cas d'Ibrahim Biari

Fin avril 2025, un article exhaustif publié par le "New York Times" a présenté l'utilisation par l'armée de la technologie d'intelligence artificielle pendant la guerre, en particulier par l'unité 8200. Comme exemple, le journal américain a cité l'élimination d'Ibrahim Biari, commandant du bataillon Centre de Jabalia du Hamas, qui était l'un des dirigeants et planificateurs du massacre du 7 octobre. Selon le rapport, fin octobre 2023, Israël avait l'intention d'éliminer Biari et savait qu'il se cachait dans le réseau de tunnels de la bande, mais le renseignement n'avait pas réussi à le localiser.

Trois responsables israéliens et américains ont alors déclaré au "Times" qu'Israël avait décidé de recourir à une nouvelle technologie militaire intégrée à l'intelligence artificielle. Cette technologie avait été développée une décennie plus tôt mais n'avait pas été utilisée sur le champ de bataille jusqu'alors. La tentative de localiser Biari a incité à améliorer cet outil, et les ingénieurs de l'unité 8200 y ont intégré l'intelligence artificielle.

Même si Tsahal utilise effectivement des outils d'IA, cela ne témoigne en rien d'une faille dans le processus de prise de décision concernant les considérations relatives aux frappes et au risque de blesser des innocents. Chaque frappe et élimination ciblée est examinée à divers échelons et passe par de nombreux regards. Concernant les frappes, de nombreux critères sont pris en compte : si la cible répond aux critères d'élimination, par le biais d'une enquête approfondie sur son environnement, son quotidien, ses lieux de présence, y compris les environs, le type d'armement, la nature de l'opération et d'autres considérations.

Dans le cadre de la tentative de localisation de Biari, selon le "New York Times", Israël a écouté ses communications et examiné le même outil audio basé sur l'IA, qui a fourni l'emplacement estimé d'où il passait ses appels. À l'aide de ces informations, Israël a mené une frappe aérienne sur le lieu le 31 octobre 2023, éliminant Biari. Une organisation de défense des droits de l'homme a affirmé que plus de 125 civils avaient été tués lors de cette frappe.

Coopération entre l'unité 8200 et les géants de la tech

Selon le rapport, au cours des 18 mois précédents, Israël a intégré l'intelligence artificielle dans des logiciels de reconnaissance faciale pour comparer des images floues à de véritables identités, l'a utilisée pour dresser une liste de cibles potentielles pour des frappes aériennes, et a créé un modèle d'IA en arabe pour concevoir un chatbot capable de scanner et d'analyser des messages texte, des publications sur les réseaux sociaux et d'autres données en langue arabe. De nombreuses tentatives de ce type sont nées d'une coopération entre des membres de l'unité 8200 et des réservistes employés par des géants de la tech tels que Google, Microsoft et Meta.

L'un des outils développés par le "Studio", selon le "Times", est un modèle d'intelligence artificielle en arabe connu sous le nom de "grand modèle de langage". Le journal américain a souligné que les développeurs avaient initialement eu du mal à créer un tel modèle en raison du manque de bases de données en arabe pour entraîner la technologie. Lorsque des données étaient disponibles, elles l'étaient principalement en arabe littéral, différent de la langue parlée. Cependant, Tsahal n'a pas rencontré ce problème, grâce à des décennies de décryptage de messages texte, de transcriptions d'appels téléphoniques et de publications sur les réseaux sociaux en arabe parlé.

Les erreurs du chatbot et les questions éthiques

Après l'élimination du secrétaire général du Hezbollah, Hassan Nasrallah, le chatbot a analysé les réactions dans les pays arabophones. Parfois, le chatbot n'a pas réussi à identifier les termes d'argot modernes et les mots traduits de l'anglais vers l'arabe. Cela a nécessité l'intervention d'officiers du renseignement de Tsahal spécialistes de divers dialectes pour améliorer le système. Le chatbot a également fourni occasionnellement des réponses erronées, telles que des images de tuyaux au lieu d'armes.

Néanmoins, l'outil d'intelligence artificielle a considérablement accéléré les recherches et analyses. Dans les points de passage temporaires établis entre le nord et le sud de la bande de Gaza à cette époque, affirme le "Times", Israël a équipé des caméras de la capacité de scanner et d'envoyer des images haute résolution de Palestiniens vers le programme de reconnaissance faciale basé sur l'IA. Cependant, le système a parfois eu du mal à identifier les personnes dont le visage était couvert, ce qui a entraîné des arrestations et des interrogations de Palestiniens identifiés par erreur comme suspects.

Les technologies de pointe soulèvent "de graves questions éthiques", a déclaré à l'époque au journal américain Hadas Lorber, de l'Institut technologique de Holon (HIT). Elle a averti que des freins et des contrepoids sont nécessaires pour l'intelligence artificielle, ajoutant que "les êtres humains doivent être ceux qui prennent les décisions finales".

Réaction au film et mesures prises par le chef d'état-major

Face au film, une prise de conscience règne au sein de l'armée selon laquelle un préjudice immense a été causé au système, poussant le chef d'état-major, le général de corps d'armée Eyal Zamir, à intervenir personnellement dans un événement qu'il ne considère pas seulement comme une question de communication, mais comme un fait susceptible de nuire gravement aux activités de Tsahal et aux soldats actuellement en première ligne s'il n'est pas traité.

Les mesures choisies par le chef d'état-major sont très inhabituelles, ciblant notamment ceux qui ont choisi de s'exprimer dans le film, et l'armée examine actuellement s'ils ont divulgué des informations classifiées interdites de publication.

Malgré cela, les efforts de contre-terrorisme de Tsahal se poursuivent, principalement dans la bande de Gaza, dans un contexte où les États-Unis tentent de promouvoir le plan de Trump et le retrait de Tsahal. Dans de nombreux cas, l'activité est interrompue en raison de restrictions visant à éviter de blesser des innocents. De plus, selon des sources de sécurité, les frappes actuelles dans la bande de Gaza sont examinées avec minutie, et certaines sont suspendues par crainte de perdre leur légitimité aux yeux de l'opinion publique mondiale.