Avec une touche israélienne : Microsoft dévoile un système de cyberdéfense basé sur des agents d'IA

Microsoft dévoile ce soir (lundi) un nouveau système de cyberdéfense basé sur des agents d'intelligence artificielle appelé Perception, qui, selon l'entreprise, est conçu pour propulser la cyberdéfense à l'ère de l'IA. Parallèlement, l'entreprise présente un modèle d'IA pour la cybersécurité qui, selon elle, est capable de fournir de meilleures performances dans l'identification des vulnérabilités de sécurité que le modèle Mythos d'Anthropic. Une partie des capacités révélées par l'entreprise a été développée au sein du centre de R&D israélien du géant technologique.

La semaine dernière, OpenAI a révélé que des modèles avancés qu'elle avait testés avaient réussi à s'échapper de leur environnement de test fermé vers l'Internet ouvert et à pénétrer dans les systèmes informatiques de la plateforme Hugging Face, lors d'une opération qui a duré des heures mais qui aurait nécessité des jours pour un humain qualifié. L'incident a clarifié que l'avenir dont les experts en cybersécurité avaient averti, dans lequel des agents d'IA autonomes effectuent des piratages sophistiqués et dangereux sans intervention humaine, est en fait déjà une réalité. Le nouveau système de cyberdéfense de Microsoft, Perception, a été construit, selon l'entreprise, spécifiquement pour cette nouvelle réalité.

« L'intelligence artificielle change les règles du jeu dans le monde de la cybersécurité », a déclaré l'entreprise dans un communiqué de presse. « Aujourd'hui, les attaquants peuvent développer des attaques à une vitesse plus élevée, les mettre à l'échelle dans des volumes sans précédent et les personnaliser, tandis que les organisations doivent protéger des environnements numériques plus complexes incluant des identités, des applications, des clouds, des données et des systèmes d'IA. Dans cette réalité, les solutions de sécurité traditionnelles, construites pour un monde où les humains prenaient la plupart des décisions, peinent à faire face aux attaques basées sur l'IA opérant à une vitesse et à une échelle sans précédent ».

Au centre de Perception se trouvent des modèles d'IA et des agents autonomes qui utilisent des informations internes pertinentes pour chaque entreprise afin de créer une défense proactive axée sur l'identification et l'atténuation des cybermenaces. Il repose sur trois types d'agents qui travaillent ensemble :

• Les agents Red Team qui identifient les failles et les vecteurs d'attaque possibles dans les systèmes de l'organisation

• Les agents Blue Team qui examinent les résultats dans le contexte organisationnel et évaluent lesquels présentent un risque réel

• Les agents Green Team qui mettent en œuvre les résultats afin d'effectuer des actions de remédiation et de fermer les failles

Le travail des agents exploite ce que Microsoft appelle le Security Context – une image actualisée des actifs organisationnels, des identités des utilisateurs, des applications, des environnements cloud, des systèmes d'IA et des cybermenaces pertinentes. « Cette couche permet aux agents d'IA de comprendre la signification de chaque incident de sécurité, de hiérarchiser les risques et de prendre des décisions de manière plus précise, cohérente et efficace, tout en réduisant les coûts de calcul nécessaires pour faire fonctionner le système à grande échelle. Au lieu que chaque agent doive collecter et analyser les informations par lui-même, ils travaillent tous sur la base de la même image partagée », a déclaré l'entreprise.

Parallèlement au système, Microsoft a également révélé son premier modèle d'IA pour la cybersécurité de son propre développement. Le modèle, AI-Cyber-1-Flash, est destiné à l'identification des vulnérabilités de sécurité dans les systèmes logiciels, similaire au modèle Mythos d'Anthropic. Selon Microsoft, lorsque le modèle fonctionne en combinaison avec MDASH (un système de scan de sécurité basé sur des agents d'IA que l'entreprise a révélé en mai), il obtient un score de 96 au test CyberGym, soit 12 points de plus que Mythos.

Une partie importante des nouvelles capacités est basée sur les travaux effectués au centre de R&D de Microsoft en Israël. Selon l'entreprise, le système a été développé en Israël et sera la première solution à intégrer le modèle de cybersécurité de Microsoft. « Ainsi, l'une des premières capacités qui réalise en pratique la vision de Project Perception est basée sur un développement israélien, dans le cadre de la nouvelle génération de solutions de défense que Microsoft développe pour l'ère de l'intelligence artificielle », a-t-il été déclaré.