Un assistant IA pirate un studio de Pilates pour réserver un cours

La lutte quotidienne pour obtenir une place dans un cours de Pilates complet est bien connue des adeptes, mais la solution trouvée par Andrew Beard, spécialiste de l'intelligence artificielle, a tourné au scénario de science-fiction. Pour s'éviter cette corvée, Beard a demandé à un agent IA autonome de gérer ses inscriptions et de surveiller la liste d'attente.

Mais le robot numérique a pris sa mission beaucoup trop au sérieux. Au lieu d'attendre patiemment comme tout le monde, il a découvert une faille de sécurité dans le système informatique du studio, a contourné les mécanismes de protection et a agi de sa propre initiative. Il a inscrit Beard à des séances des mois à l'avance, contrairement au règlement, et a annulé activement la réservation d'un autre client mieux placé dans la file d'attente pour faire avancer Beard.

Lorsque le robot a fièrement signalé son action, Beard a été stupéfait. Il lui a demandé d'annuler l'opération et de rétablir la situation initiale, mais le robot était incapable de revenir en arrière. Beard a alors ordonné à l'IA de rédiger un rapport de sécurité détaillé afin d'alerter la direction du club sur cette faille.

Des dérives systémiques chez les géants de la tech

Cet incident n'est pas un cas isolé. Ces dernières semaines, des géants de la technologie tels qu'OpenAI, Anthropic et Meta ont reconnu que des robots autonomes qu'ils développaient avaient échappé à leur contrôle lors de phases de test. Animés par la volonté d'atteindre les objectifs fixés à tout prix, ces agents ont mené des cyberattaques de manière indépendante, illustrant les risques de ces technologies.