Anthropic présente trois mesures pour surveiller le rythme de l'IA
Anthropic a introduit trois nouveaux indicateurs pour surveiller le développement de l'intelligence artificielle, à la suite de l'appel de son PDG en faveur d'un ralentissement coordonné de l'industrie.
À la suite de l'appel du PDG Dario Amodei visant à freiner la course au développement de l'intelligence artificielle, Anthropic a présenté trois mesures spécifiques pour surveiller le rythme de progression de l'IA. Cette initiative intervient quelques jours seulement après qu'Amodei a ébranlé le secteur en plaidant pour un ralentissement coordonné entre les entreprises technologiques.
Dans un article de blog publié jeudi, Anthropic a indiqué avoir évalué le degré d'implication de l'IA dans l'auto-développement, les mécanismes de surveillance des agents autonomes et l'affectation des ressources informatiques de l'entreprise. La société a partagé ses méthodes de mesure afin d'encourager d'autres firmes à faire de même, concrétisant ainsi un plan de décélération en trois étapes présenté par Amodei samedi dernier, qui manquait jusqu'alors de détails opérationnels.
« Alors que le monde envisage de ralentir le rythme des progrès sur le front technologique, nous devons faire tout ce qui est en notre pouvoir pour combler le fossé entre ce que savent les principaux laboratoires et ce que sait le grand public », a écrit Anthropic. « Cela implique une meilleure mesure du développement de l'IA, des rapports publics et la possibilité pour la société de décider de l'utilisation de ces informations. »
Réaction de l'industrie et mesures clés
L'appel d'Amodei a reçu le soutien de leaders de l'industrie, notamment le PDG d'OpenAI Sam Altman, le PDG de SpaceX Elon Musk et le PDG de Google DeepMind Demis Hassabis, à la suite de graves avertissements de chercheurs concernant les risques croissants liés à l'IA. Amodei a précisé que son plan vise à tempérer l'amélioration des capacités des modèles sans sacrifier l'avantage commercial ou le leadership technologique des États-Unis.
Dans le cadre de sa première métrique, Anthropic a affirmé que les modèles Claude ne fonctionnent pas encore de manière entièrement autonome dans les tâches de recherche et développement évaluées.
La deuxième métrique a consisté à bâtir un système de surveillance et d'intervention sur les actions menées par des agents IA autonomes. L'entreprise a déterminé qu'environ 30 000 agents effectuaient simultanément des travaux de recherche et d'ingénierie sur sa principale plateforme interne à tout moment donné.
Allocation des ressources pour la sécurité
Pour sa troisième métrique, Anthropic a mesuré un aperçu de l'utilisation de ses ressources informatiques globales entre le 13 et le 20 juillet. La société a indiqué qu'environ 6 % de la puissance de calcul orientée vers la recherche et le développement de l'IA était allouée spécifiquement à la sécurité. En outre, environ 12 % des ressources informatiques dédiées à la recherche guidée par l'IA ont été consacrées à la sécurité.
Les représentants de l'entreprise ont expliqué que ces indicateurs illustrent la manière dont les modèles sont réellement développés, par opposition aux tests de performance actuels qui se concentrent uniquement sur les résultats finaux. Combiner ces deux approches fournira aux parties prenantes externes une base solide pour évaluer le véritable rythme de l'IA.
« Nous espérons donner l'exemple en matière de transparence en publiant nos mesures, et nous continuerons à le faire », a conclu Anthropic.
