Le PDG d'Anthropic : « La résistance à l'IA est fondamentalement une crise de confiance »

Le PDG d'Anthropic, Dario Amodei, a récemment rejeté l'affirmation selon laquelle il présenterait une image trop pessimiste de l'intelligence artificielle et de la manière dont elle pourrait façonner l'avenir. C'est ce que rapporte le blog technologique TechCrunch.

Les propos d'Amodei ont été tenus en réponse à l'investisseur Gavin Baker, qui a soutenu — tant dans le podcast All-In que sur le réseau X — que les avertissements d'Amodei sur les dangers de l'IA ont contribué à alimenter une réaction négative contre la technologie aux États-Unis, en particulier en ce qui concerne les centres de données. Baker a affirmé qu'Amodei avait « perdu le débat » concernant la réglementation de l'IA, bien qu'Anthropic soutienne certaines réglementations, notamment un projet de loi en Californie imposant des exigences de transparence aux grandes entreprises d'IA. Étant donné qu'« il va être le PDG de l'une des entreprises les plus importantes au monde », a écrit Baker, « je pense respectueusement qu'il devrait faire un effort pour être un défenseur plus positif de son industrie ».

Baker est loin d'être le seul à affirmer que le scepticisme à l'égard de l'IA, et même les mesures de resserrement prises par les gouvernements, sont une réaction naturelle aux avertissements sévères émis par certains dirigeants d'entreprises d'IA. Cependant, dans une publication personnelle, Amodei a contesté l'affirmation selon laquelle « mes messages étaient disproportionnément négatifs ». Selon lui, son texte était « équilibré de manière égale entre les risques et les avantages », et il a écrit son article, « Machines of Loving Grace », parce que « je sentais que l'industrie de l'IA ne présentait pas une image suffisamment inspirante de la façon dont la technologie peut changer radicalement le monde pour le meilleur ».

Néanmoins, Amodei a admis que « le public a une opinion négative de l'IA », et a convenu que « c'est un gros problème ». Il a contesté l'affirmation selon laquelle cette négativité était causée « principalement » par lui ou par « tout autre leader de l'IA qui met en garde contre les risques de l'IA ».

« Je pense que c'est fondamentalement une crise de confiance », a déclaré Amodei. « Je pense que les gens ordinaires ne font pas confiance aux entreprises, aux gouvernements ou à l'industrie technologique, et soupçonnent toujours que nous concoctons une nouvelle façon de les arnaquer ». En effet, la « confiance » est un terme qui apparaît fréquemment dans les titres concernant le PDG d'OpenAI, Sam Altman, et il semble que ce soit une question qui touche également d'autres PDG d'IA comme Amodei. Cependant, selon Amodei, il s'agit d'une crise qui s'est construite pendant des décennies, la résistance à l'IA n'étant « que sa dernière version ».

« Je pense que la critique la plus précise, et de loin, des entreprises d'IA, y compris Anthropic, est que nous n'avons pas encore tenu nos grandes promesses de faire du bien au monde », a déclaré Amodei. « C'est entièrement de notre faute, et je pense que c'est la critique qui devrait être formulée, au lieu de toutes ces choses sur la messagerie et le marketing ». En d'autres termes, il a déclaré que promettre que l'IA guérira le cancer est « plus un cliché qu'une chose inspirante », et ce qui changera vraiment l'opinion des gens sur l'IA sera de « guérir réellement le cancer ».

En ce qui concerne la réglementation, Amodei a soutenu que Baker présente un « faux choix » entre une diffusion large de l'IA sans réglementation et la concentration de la technologie entre les mains de quelques entreprises par le biais de la réglementation.

« Je sais qu'il existe une perception dans la Silicon Valley selon laquelle la réglementation conduit les grandes entreprises à influencer les régulateurs, et finalement à une concentration du pouvoir, mais j'ai toujours pensé que c'était une image trop simplifiée du monde », a déclaré Amodei. « Beaucoup de gens en dehors de cette bulle pensent à la réglementation comme à quelque chose qui limite le pouvoir des entreprises et profite aux gens ordinaires ».

Amodei a ajouté qu'il « n'est pas nécessairement d'accord avec ce point de vue non plus », mais selon lui, « c'est pourquoi Anthropic a toujours formulé ses propositions politiques avec beaucoup de prudence ».

« Nous nous efforçons beaucoup de proposer des propositions qui nuisent aux entreprises d'IA les plus avancées (en les ralentissant), tout en donnant un avantage aux petits concurrents », a-t-il déclaré. Pourquoi faire de telles propositions ? Amodei a déclaré qu'à son avis, « l'IA est une technologie qui est structurellement encline à concentrer le pouvoir », et que « les modèles d'IA ouverts aident effectivement dans une certaine mesure à ce sujet, mais ils sont loin d'être une solution suffisante, car ils transfèrent simplement la concentration dans une certaine mesure à ceux qui ont le plus de puissance de calcul et de puces ».

« En revanche, je pense que les bonnes « règles du jeu » peuvent simultanément (a) traiter les risques cyber/biologiques/d'alignement de l'IA, (b) limiter institutionnellement le pouvoir des entreprises d'IA les plus avancées, et (c) laisser de la place aux modèles ouverts, tout en traitant simultanément les risques spécifiques qu'ils apportent avec eux », a-t-il déclaré.