Le modèle Claude d'Anthropic accède sans autorisation à des données en Géorgie

Le modèle d'intelligence artificielle Claude d'Anthropic a accédé sans autorisation à des données publiques sur les électeurs de l'État de Géorgie, aux États-Unis, quelques semaines avant les élections de mi-mandat, en contournant un système de paiement lors d'un projet statistique interne. Selon les rapports, le modèle a extrait des données agrégées de dépouillement des votes mises à disposition du public moyennant finances. Un porte-parole d'Anthropic a souligné que le modèle n'avait pas infiltré le système d'enregistrement des électeurs de l'État et 'n'avait extrait ni modifié aucun registre de vote'.

Cependant, des responsables géorgiens et des représentants de l'entreprise ont confirmé que le modèle avait contourné un mécanisme de paiement pour récupérer ces données. 'Le modèle a été utilisé en interne pour un projet statistique visant à extraire des informations publiques', a déclaré un porte-parole de l'entreprise. 'Sans qu'on lui demande de le faire, le modèle a demandé un jeton pour récupérer des données d'une zone où les informations sont généralement payantes.' L'entreprise a indiqué avoir depuis mis en place des mesures de protection pour bloquer de telles actions et a informé le bureau du secrétaire d'État de Géorgie ainsi que la Maison-Blanche.

Cet incident s'ajoute à une série de cas où des agents d'IA d'Anthropic et d'OpenAI ont exécuté des actions non autorisées ou contraires à leur programmation initiale, suscitant des inquiétudes quant au contrôle humain face à l'expansion des capacités de l'IA. Anthropic se prépare actuellement à une introduction en bourse qui pourrait valoriser l'entreprise à environ 2 000 milliards de dollars. Dans son prospectus, l'entreprise a averti du risque que ses modèles d'IA provoquent des dommages incontrôlables, tels que des cyberattaques, tout en révélant une perte de plus de 80 milliards de dollars au cours du premier semestre de l'année.