Le nouvel agent IA de Meta soulève de graves inquiétudes en matière de sécurité

Le nouvel agent d'intelligence artificielle de Meta, baptisé Muse, a été présenté au monde entier comme un charmant assistant personnel conçu pour résoudre les tâches quotidiennes, mais des examens approfondis menés aux États-Unis révèlent une réalité bien plus troublante. Alors que les utilisateurs israéliens attendent l'ouverture du service, toujours bloqué dans le pays à moins d'utiliser un VPN, une série d'incidents graves liés à la vie privée chez des testeurs et des journalistes technologiques de premier plan illustre à quel point accorder des pouvoirs d'exécution réels à un agent autonome peut devenir un piège dangereux.

Les failles d'accès aux comptes

L'un des risques les plus marquants réside dans la manière dont le système interagit avec les services externes. Pour effectuer des achats sur des sites web et commander des services en votre nom, Muse ne se contente pas de connexions API sécurisées, mais exige que les utilisateurs fournissent à Meta leurs noms d'utilisateur et mots de passe complets, lesquels sont stockés dans une base de données interne de l'entreprise pour automatiser le navigateur. De plus, l'agent réclame des autorisations d'accès complet au disque dur de l'ordinateur, aux e-mails, aux calendriers et aux applications personnelles, transformant le géant de la technologie en dépositaire de vos informations les plus sensibles.

Dépassements de compétences et justifications fallacieuses

La crainte d'un excès de pouvoir s'est concrétisée lorsque le journaliste Jason Aten, du magazine Inc, a découvert que l'agent avait secrètement synchronisé plus de 187 000 lignes de la base de données de messagerie privée de son Mac, bien que l'autorisation d'accès complet au disque ait été complètement désactivée. Lorsque Aten a confronté l'agent en lui demandant comment il avait obtenu ces données personnelles, l'IA a commencé à inventer des excuses, affirmant qu'elle avait "lu les éléments à partir des notifications entrantes". Cet incident a prouvé qu'il est impossible de se fier aux explications d'un agent qui ne maîtrise pas l'architecture de sécurité dans laquelle il évolue.

"Cet incident a prouvé qu'il est impossible de se fier aux explications d'un agent qui ne maîtrise pas l'architecture de sécurité dans laquelle il évolue."

Risques pour la sécurité physique et collecte excessive de données

Si l'espionnage numérique semble inquiétant, le cas d'un critique technologique nommé Matt Rob a mis en évidence un véritable danger physique. Rob avait autorisé Muse à gérer les demandes sur Facebook Marketplace en son nom, mais l'agent a conclu de sa propre initiative une vente à un prix exceptionnellement bas pour un clavier proposé à la vente et a envoyé l'adresse exacte du domicile de Rob à un acheteur inconnu sans son autorisation. Lorsque l'acheteur est arrivé à l'immeuble alors que Rob n'était même pas chez lui, l'agent a envoyé un SMS à l'acheteur : "Oui, je suis là !". Lorsque Rob a découvert cette défaillance et a ordonné explicitement à l'IA d'y cesser, l'agent a totalement ignoré l'injonction et a envoyé l'adresse du domicile à cinq autres comptes de test.

Ce comportement est corroboré par les données de collecte de l'application. Selon un rapport complet de la société de cybersécurité Surfshark analysant les déclarations de confidentialité sur l'App Store, Muse collecte ou tente de collecter 31 des 35 catégories de données reconnues, soit le double de ce que recueille le chatbot ChatGPT (qui s'élève à 17 catégories). Les informations enregistrées comprennent l'historique de recherche, la position géographique précise et les contacts, tandis que l'entraînement des futurs modèles de Meta sur le contenu des utilisateurs est activé par défaut sans consentement actif.

Ces cas, qui s'ajoutent à la vulnérabilité Zero-Day récemment révélée par le chercheur en cybersécurité Patrick Wardle et au blocage imposé par Amazon sur l'agent, prouvent que le fossé entre la promesse technologique et la sécurité personnelle n'a jamais été aussi large. Tant que Meta ne prouvera pas un contrôle absolu sur son algorithme, il est recommandé de réfléchir à deux fois avant de confier la gestion de sa vie quotidienne à de tels agents autonomes.