Le hacker IA n’est pas un génie. Il est cohérent

Les publications sur les cyberattaques menées à l'aide de l'IA présentent généralement le scénario d'un outil d'attaque sophistiqué : un système qui a découvert une vulnérabilité cachée, écrit un code auquel un humain n'aurait pas pensé ou contourné des défenses de manière particulièrement brillante. Il est facile de comprendre l'attrait pour ce scénario, mais il passe à côté d'un danger plus immédiat, plus silencieux et moins glamour : la capacité d'utiliser la même méthode d'attaque encore et encore contre un nombre beaucoup plus grand de systèmes.

Pour que l'IA devienne un outil d'attaque puissant, elle n'a pas besoin d'inventer quoi que ce soit de nouveau. Une fois que les attaquants comprennent pourquoi une certaine méthode fonctionne, le système peut rechercher les mêmes conditions dans d'autres systèmes, adapter le test aux différences entre eux et continuer même après des tentatives infructueuses. Dans de nombreux cas, la principale sophistication réside dans la première découverte. À partir de là, le système augmente le nombre de tentatives et le nombre de systèmes pouvant être testés.

Dans une étude que nous avons menée sur des applications Android, simulant les méthodes de travail de véritables attaquants, les chercheurs ont trouvé sept vulnérabilités lors d'un travail manuel au premier stade. Après avoir identifié les conditions communes qui les ont créées, nous avons exécuté le système sur 20 applications. L'outil d'attaque a trouvé cinq vulnérabilités supplémentaires de la même famille, ainsi qu'une vulnérabilité distincte permettant la prise de contrôle d'un compte. Dans chacune des applications, le code, l'interface et les autorisations semblaient différents.

Le système ne pouvait pas se contenter de réexécuter la même commande. Il devait identifier si et comment ces conditions existaient dans chaque application et adapter le test à sa structure. Les règles fixes fonctionnent bien lorsque toutes les étapes et réponses sont connues à l'avance. Dans les tests de sécurité, chaque système réagit différemment, l'échec nécessite un changement de direction et une découverte partielle influence l'étape suivante.

Un système capable d'adapter le test à ce qu'il a déjà trouvé peut se déplacer entre de nombreux systèmes sans qu'un chercheur n'accompagne chaque tentative du début à la fin. Ce qui le distingue d'un script plus rapide, c'est la capacité de modifier le test en fonction de ce qui est trouvé en cours de route. Le système doit comprendre le contexte de chaque cible. Il ne peut pas exécuter aveuglément un scénario fixe ; il doit comprendre comment la cible est construite, identifier des modèles qui n'ont pas été définis à l'avance et décider quelles découvertes indiquent un risque réel.

Dans le travail manuel, chaque cible supplémentaire nécessite du temps de chercheur supplémentaire. Lorsque l'IA effectue l'adaptation elle-même, de nombreux systèmes peuvent être testés plus fréquemment, sans recommencer à chaque fois et sans affecter un chercheur à chaque cible. Les agents d'IA peuvent effectuer encore et encore toute une séquence d'actions.

Dans une autre étude que nous avons menée sur la plateforme open source de gestion de conférences Pretalx, nous avons montré que les agents peuvent soumettre des propositions fictives de conférences à diverses conférences et attendre une action attendue des organisateurs, comme la confirmation de la conférence, qui active la vulnérabilité. Une tâche qui nécessitait auparavant un suivi et un travail manuel peut être effectuée en parallèle contre de nombreuses cibles.

Un attaquant n'a pas besoin de réussir toutes les tentatives, ni même la plupart d'entre elles. Un seul succès suffit. À mesure que le coût de chaque tentative supplémentaire diminue, un système automatique peut essayer la même méthode d'attaque contre de nombreuses cibles, sans ajouter de main-d'œuvre et sans choisir à l'avance uniquement les cibles qui semblent prometteuses.

Une organisation, en revanche, doit protéger de nombreuses applications, API, autorisations et processus métier qui changent avec le code. La connexion d'un nouveau service, la modification de la connexion entre deux composants ou l'extension d'une autorisation peuvent ouvrir un chemin d'attaque qui n'existait pas lors du test précédent. Un test d'intrusion annuel ou trimestriel est une photographie instantanée. Il peut être professionnel et approfondi, mais il décrit le système le jour où il a été testé.

Des semaines plus tard, le code a déjà changé, les autorisations ont été mises à jour et de nouveaux services ont été ajoutés. Un attaquant qui continue d'essayer n'attend pas le prochain test. Le changement plus profond que l'IA apporte au monde de la cybersécurité n'est pas la capacité de remplacer l'expert, mais de raccourcir la distance entre une découverte et un nombre énorme de tentatives. Une méthode d'attaque dont le développement a nécessité du temps, de la créativité et de l'expérience peut ensuite être testée encore et encore, contre différents systèmes et à un coût bien moindre.

Par conséquent, la menace ne commence pas au point où une machine pensera mieux qu'un chercheur humain. Elle commence lorsqu'une idée d'une personne peut continuer à fonctionner à des échelles qu'une personne, ou un groupe d'attaquants, n'aurait pas pu atteindre par le passé. Face à une telle capacité, une défense qui n'est testée et mise à jour qu'une fois tous les quelques mois aura du mal à suivre le rythme.

Ido Gefen est cofondateur et PDG de la société de cybersécurité Novee Security