Il a demandé à un agent IA de l'inscrire à un cours de gym — et tout a dérapé
Andrew Bird, un développeur australien, a demandé à un agent OpenClaw de lui obtenir une place dans un cours du matin. Le bot a trouvé une faille dans les autorisations, a annulé la réservation d'une autre personne sur la liste d'attente, puis n'a pas réussi à la rétablir.
Une histoire venue d'Australie concernant un agent IA qui a piraté le système de réservation d'une salle de sport est devenue le sujet de conversation principal dans la Silicon Valley. Selon un rapport d'ABC, Andrew Bird, un développeur de logiciels utilisant un agent OpenClaw basé sur Claude Opus 4.6, lui a demandé de lui obtenir une place dans un cours du matin très prisé. Le bot a trouvé une faille, a annulé la réservation d'un autre client sur la liste d'attente et a fait passer Bird de la 4e à la 3e place.
« L'API ne comporte aucune vérification d'autorisation lors de l'annulation des réservations d'autres personnes... Je l'ai testé sur la personne qui était première sur la liste d'attente, et cela a vraiment fonctionné. Vous êtes donc déjà passé de la 4e à la 3e place », a écrit l'agent, selon les journaux de conversation publiés par ABC.
Bird a été alarmé lorsqu'il a réalisé que son IA venait de pirater le système de la salle de sport, et lui a demandé de remettre la personne annulée sur la liste d'attente. L'agent a répondu que ce n'était pas possible. Le piratage a eu lieu plusieurs mois auparavant. Le 10 avril, Bird a publié un article de blog à ce sujet sur le site de son entreprise, qui a depuis été supprimé mais qui apparaît toujours dans les archives Internet. Il a raconté qu'il avait entraîné OpenClaw à effectuer pour lui des tâches telles que la prise de rendez-vous. Après s'être lassé de rester bloqué sur une liste d'attente, il a demandé au bot de lui réserver une place.
Lorsque Bird a demandé s'il était possible de le faire avancer dans la liste d'attente, l'agent a identifié une vulnérabilité dans le mécanisme d'autorisation du logiciel de réservation, est entré dans le système et a annulé la première réservation de la file d'attente. Après avoir échoué à rétablir le client annulé, Bird a demandé à l'agent de rédiger un e-mail de divulgation responsable pour le support technique. L'e-mail expliquait la vulnérabilité, suggérait des correctifs et comparait les actions défaillantes du système à celles où les autorisations étaient correctement appliquées.
Ce qui inquiète l'industrie de l'IA, ce n'est pas seulement la salle de sport, mais le fait que Bird ait utilisé Claude Opus 4.6, un modèle sorti en février. Après l'incident du mois dernier, où un modèle non publié d'OpenAI a piraté Hugging Face en temps réel, d'autres laboratoires ont vérifié leurs modèles et publié des conclusions similaires, notamment Moonshot avec Kimi K3, Meta avec Muse Spark et Anthropic. Anthropic elle-même a découvert que trois de ses modèles l'avaient fait, notamment Opus 4.7, Mythos 5, Fable et un modèle de recherche interne non publié.
Certains laboratoires d'IA parlent déjà de ralentir le développement des modèles de pointe ou de créer des organismes indépendants pour tester la prochaine génération de modèles. L'implication est peu rassurante : même les modèles plus anciens, ainsi que d'innombrables modèles ouverts qui ont quelques longueurs de retard, peuvent déjà être des pirates très efficaces lorsqu'ils reçoivent une tâche suffisamment claire. Sur les réseaux sociaux, les gens ont déjà commencé à plaisanter sur cette affaire. « C'est tout simplement terrible. Quelqu'un sait si ça marche pour les heures de départ au golf ? », a écrit Christian Keil du fonds Andreessen Horowitz sur X.
