Dario Amodei appelle les entreprises d'IA à modérer leur rythme de développement

Le PDG d'Anthropic, Dario Amodei, a appelé les entreprises de pointe en intelligence artificielle à modérer leur rythme de développement face aux risques croissants liés au détournement de ces technologies. Amodei a présenté un cadre en trois phases visant à libérer du temps pour la gestion des risques.

Ralentir le rythme de l'IA

Dans un message publié sur le réseau social X, Amodei a insisté sur la nécessité de freiner l'amélioration des capacités des modèles.

Nous devons ralentir le rythme auquel nous améliorons les capacités de l'IA. Le progrès semblera toujours rapide, et nous devons faire un usage judicieux du temps ainsi gagné.

Il a précisé qu'il ne s'agit pas d'arrêter le développement technique, mais de garantir un temps d'évaluation suffisant pour la sécurité des modèles par des auditeurs externes.

Rapports de menaces et démissions

Cet appel intervient après la publication d'un rapport sur les menaces par Anthropic, détaillant l'utilisation des modèles Claude pour le développement d'armes et des cyberattaques. Par ailleurs, un chercheur de l'entreprise, Jacob Coxson, a démissionné en avertissant que les concepteurs de l'IA craignent des risques existentiels d'ici la fin de la décennie.

Auditeurs externes et incidents

Dans le cadre de sa proposition, Amodei a indiqué qu'Anthropic placera des auditeurs externes permanents au sein des principales entreprises d'IA afin de superviser les évaluations des risques internes, dans un contexte marqué par des incidents récents d'agents autonomes.