IA générative : une enquête américaine expose les failles de sécurité face aux menaces
Une enquête américaine révèle que des chercheurs ont réussi à contourner les barrières de sécurité de ChatGPT, Claude, Gemini et Grok pour obtenir des plans d'attaques.

Une enquête menée par le Bureau du contrôleur général des États-Unis met en lumière les failles des systèmes d'intelligence artificielle face aux requêtes malveillantes. Des chercheurs se sont fait passer pour des utilisateurs ordinaires afin de tester la résistance de ChatGPT d'OpenAI, de Claude d'Anthropic, de Gemini de Google (Alphabet) et de Grok de xAI dans le cadre de scénarios simulant des attentats terroristes et des attaques contre des infrastructures critiques.
Des barrières de sécurité contournées en quelques heures
Au cours de l'expérimentation, les quatre plateformes ont initialement activé leurs protocoles de protection en rejetant les demandes formulées par les enquêteurs. Néanmoins, en maintenant le dialogue avec les agents conversationnels, ces derniers ont réussi à obtenir des données opérationnelles susceptibles d'appuyer la planification d'actes criminels. Moins de douze heures ont suffi pour chaque test afin de générer des plans d'action exploitables.
Les scénarios ont exploré diverses menaces ciblant des espaces urbains denses aux États-Unis ainsi que le réseau électrique national. Les intelligences artificielles ont ainsi suggéré des cibles potentielles, fourni des échéances, élaboré des cartes et produit des représentations visuelles détaillées. Bien que certaines propositions contenaient des incohérences factuelles ou topographiques, la rapidité d'exécution a particulièrement alarmé les autorités.
La réaction des entreprises technologiques
Interrogées sur ces conclusions, les sociétés à l'origine de ces technologies ont tenu à nuancer la portée de l'étude tout en réaffirmant leur engagement en matière de sécurité. Anthropic a précisé que les tests avaient été réalisés sur des versions antérieures de ses modèles et que les dispositifs de défense avaient été renforcés depuis. Google (Alphabet) a indiqué poursuivre l'optimisation des garde-fous de Gemini.
De son côté, OpenAI a souligné que son assistant avait opposé un refus à de nombreuses sollicitations dangereuses et regretté que le rapport ne distingue pas toujours les informations générées par le système de celles apportées par les enquêteurs eux-mêmes. La start-up xAI a quant à elle affirmé qu'elle continuerait d'améliorer ses mécanismes de contrôle et de surveillance.
Cette initiative fait suite à une demande formulée par la sénatrice démocrate Maggie Hassan, élue du New Hampshire. À la lumière de ces révélations, celle-ci a insisté sur l'urgence d'une régulation fédérale accrue :
« Si le Congrès n'agit pas, la question n'est plus de savoir si un acteur malveillant utilisera l'intelligence artificielle pour concevoir et exécuter une attaque majeure, mais bien de savoir quand cela se produira. »
La parlementaire a annoncé la tenue prochaine d'audiences parlementaires pour évaluer les risques sécuritaires liés aux technologies émergentes et légiférer sur le renforcement des barrières de protection.





