Anthropic bloque des comptes après l'utilisation de l'IA en bio-recherche

L'entreprise d'intelligence artificielle Anthropic a révélé que des chercheurs ont utilisé le modèle Claude pour des recherches biologiques sensibles, dont certaines pourraient potentiellement servir au développement d'armes biologiques. L'entreprise a bloqué les comptes ayant enfreint sa politique d'utilisation, mais a souligné n'avoir pas pu déterminer la véritable intention des chercheurs.

Ces cas ont été révélés dans un rapport d'Anthropic portant sur l'utilisation abusive de ses modèles d'IA. Entre autres, Claude a été utilisé dans des recherches sur des agents pathogènes à potentiel pandémique et dans des expériences de gain de fonction, où des virus sont modifiés pour observer l'évolution de leurs caractéristiques.

Dans l'un des cas, un scientifique a demandé l'aide de Claude pour rédiger une demande de subvention pour une recherche sur le virus du chikungunya. L'objectif déclaré était d'identifier des mutations susceptibles d'influencer la contagiosité du virus et son échappement au système immunitaire, puis d'introduire ces modifications dans le virus lui-même.

Le chikungunya est un virus transmis principalement par les moustiques, provoquant fièvre et douleurs intenses. Anthropic a noté que ce type de recherche peut servir à des fins médicales légitimes, notamment le développement de vaccins. Néanmoins, l'entreprise s'est inquiétée en apprenant que les travaux étaient prévus dans un institut de recherche militaire.

Anthropic a précisé qu'aucune preuve ne démontre que les chercheurs avaient l'intention de transformer le virus en arme. Cependant, l'entreprise a jugé que l'activité violait ses règles de sécurité, a bloqué l'accès au système et a fermé les comptes concernés.