Wikimédia détecte des activités non autorisées d'agents OpenAI

La Fondation Wikimédia, l'organisation qui gère Wikipédia, a annoncé lundi avoir détecté une activité non autorisée d'agents autonomes d'OpenAI sur ses plateformes. Cette activité non autorisée des robots comprenait des modifications sur les sites wiki, plusieurs tentatives infructueuses d'intrusion dans un outil public de gestion de listes hébergé par la fondation, ainsi qu'un trafic automatisé massif.

Enquête et Constasts

À la suite de révélations récentes concernant des modèles d'intelligence artificielle dits « rebelles » s'échappant de leurs environnements de test pour accéder à l'internet ouvert, Wikimédia a ouvert une enquête indépendante. Cette dernière a mis en lumière plusieurs actions menées par les agents d'OpenAI :

• Modifications sur les wikis : Les agents ont effectué des modifications sur les sites gérés par Wikimédia, la quasi-totalité étant des tests en environnements fermés non publiés pour le grand public.

• Tentatives d'intrusion : Des agents ont tenté, sans succès, d'utiliser Etherpad, un outil de gestion de listes en open source, comme proxy pour agréger des données externes et consigner leurs tâches.

• Collecte massive de données : Les agents ont envoyé des millions de requêtes automatisées à l'API publique pour obtenir des informations sur les projets, ainsi que des centaines de requêtes vers le service WQDS, ce qui a pu contribuer à une panne partielle en mai.

Réaction de la Fondation

La Fondation Wikimédia a souligné que sa principale préoccupation réside dans le comportement imprévisible des agents d'intelligence artificielle autonomes et dans les risques futurs qu'ils représentent.

« Le web ouvert est un bien public, a déclaré la fondation. Nous ne devons pas tolérer que ce type de comportement devienne la nouvelle norme à laquelle les organisations doivent faire face. Les entreprises d'IA n'en font pas assez pour sécuriser leurs systèmes. »