Une étude d'Anthropic démontre la réplication autonome de modèles d'IA
Une étude d'Anthropic montre que des modèles d'IA peuvent se répliquer de manière autonome entre des machines virtuelles, soulevant des défis de sécurité.
Des chercheurs d'Anthropic, le développeur du modèle d'intelligence artificielle Claude, ont publié une nouvelle étude explorant la capacité des systèmes d'IA à se répliquer et à se propager de manière autonome entre plusieurs ordinateurs sans intervention humaine directe.
Réplication Autonome en Environnement Contrôlé
Lors d'une expérience menée sur un réseau contrôlé de huit machines virtuelles, les chercheurs ont testé les capacités du modèle d'IA GLM-5.2. Le modèle a réussi à atteindre l'ensemble des huit appareils lors de quatre essais sur cinq, et sept appareils lors du cinquième essai. Les chercheurs ont toutefois sciemment simplifié la phase d'intrusion initiale, le modèle fonctionnant quant à lui sur un serveur distinct.
Contrairement aux logiciels auto-réplicatifs traditionnels qui dépendent strictement d'instructions préécrites, un modèle d'IA peut analyser un nouvel environnement informatique, résoudre des erreurs imprévues de manière dynamique et élaborer des solutions personnalisées. De plus, l'étude a démontré que les modèles d'IA peuvent apprendre des erreurs d'autres instances. Un modèle de la famille Qwen a ainsi pu exploiter les journaux d'erreurs et les solutions d'autres instances pour améliorer son taux de réussite.
Perspectives Futures et Préoccupations de Sécurité
Selon les estimations d'Anthropic, si le rythme actuel de développement se poursuit, des modèles plus petits pourraient atteindre les compétences nécessaires à une réplication autonome en laboratoire d'ici fin 2026.
"Si le rythme actuel de développement se poursuit, des modèles plus petits pourraient atteindre le niveau de capacité requis pour une réplication autonome dans des conditions expérimentales d'ici fin 2026."
Bien qu'il ne s'agisse que d'une projection et non d'une preuve de propagation dans le monde réel, les chercheurs avertissent que de futures architectures distribuées sans supervision humaine directe pourraient s'avérer difficiles à désactiver par la simple coupure d'un serveur central. Ces résultats soulignent la nécessité de développer des mesures de protection adaptées.