Cato Networks lance un défi de piratage à 30 000 dollars pour sécuriser ses agents IA

La société Cato Networks lance un défi de cybersécurité offrant 30 000 dollars de primes pour tester et détourner ses nouveaux agents d'intelligence artificielle.

Cato Networks lance un défi de piratage à 30 000 dollars pour sécuriser ses agents IA
Photo : Unsplash / Aerps.com

La société de cybersécurité Cato Networks a lancé un défi public consistant à détourner un agent d'intelligence artificielle de sa mission initiale. L'entreprise a annoncé que les trois premiers participants parvenant à réussir cette épreuve remporteront chacun une prime de 10 000 dollars.

Dans le cadre de cette compétition, les candidats sont invités à attaquer le flux de travail d'un agent autonome protégé par la nouvelle solution de sécurité de la firme, baptisée AgentSense. Cet outil assure une surveillance continue et en temps réel de l'activité des agents intelligents afin de garantir que leurs décisions, actions et productions concordent strictement avec les intentions de l'utilisateur, tout en prévenant les comportements déviants ou malveillants.

Une approche novatrice face aux failles émergentes

Contrairement aux dispositifs de défense conventionnels qui reposent principalement sur la reconnaissance de schémas d'attaque connus, la technologie d'AgentSense analyse en direct l'impact de contenus non fiables sur les choix et les opérations de l'agent. Cette méthodologie vise à contrer des menaces sophistiquées, y compris des vulnérabilités de type zéro-day non répertoriées. En externalisant ainsi ses tests auprès d'une communauté mondiale de chercheurs indépendants, l'organisation s'assure des résultats probants tout en optimisant ses coûts de validation.

Le recours à des concours publics de piratage éthique, communément appelés « Red Teaming » ou « Bug Bounty », constitue une pratique bien établie dans l'industrie technologique. À titre d'exemple, la société Gray Swan a organisé une compétition similaire dotée de 300 000 dollars de récompenses, soutenue par des géants tels que OpenAI, Anthropic, Meta et Google. De leur côté, des acteurs majeurs comme Microsoft ou OpenAI rétribuent régulièrement les experts signalant des failles critiques dans leurs modèles, avec des primes atteignant ou dépassant plusieurs dizaines de milliers de dollars.

Un marché en pleine expansion et des enjeux stratégiques

Selon les données de la plateforme HackerOne, les organisations mondiales ont versé un montant record de 89,1 millions de dollars aux chercheurs en sécurité au cours d'une seule année. Porté par l'adoption massive des technologies cognitives, le marché des services de tests d'intrusion par des équipes rouges spécialisées dans l'intelligence artificielle est évalué à environ 2,26 milliards de dollars, avec des prévisions tablant sur une croissance annuelle d'environ 30 % pour atteindre 20 milliards de dollars d'ici 2035.

Au-delà de la simple détection de failles techniques, ces initiatives revêtent une dimension stratégique et marketing majeure, permettant aux entreprises de démontrer la fiabilité de leurs solutions auprès de clients potentiels tout en identifiant de nouveaux talents. Shlomo Kramer, cofondateur et directeur général de Cato Networks, insiste sur la nécessité de sécuriser ces déploiements.

«À l'ère où les organisations confient à des agents d'intelligence artificielle des décisions déterminantes pour leurs revenus et leur continuité opérationnelle, la supervision de ces systèmes devient aussi cruciale que le contrôle financier.»

Dans la même rubrique