Les peurs d'extinction liée à l'IA se propagent au grand public américain
La crainte d'une extinction humaine provoquée par l'intelligence artificielle a gagné le grand public américain à la suite d'un avertissement marquant émis par un chercheur, provoquant un vaste débat public.
La peur de l'extinction liée à l'IA gagne l'Amérique
Le membre du Congrès Josh Gottheimer assistait à un match de hockey sur gazon de sa fille dans le New Jersey lorsque des parents inquiéteurs l'ont abordé en lui demandant : « Que se passe-t-il ici ? ». Cet incident est loin d'être isolé. Selon un rapport du Wall Street Journal, la peur d'une extinction de l'humanité causée par l'intelligence artificielle est passée cette semaine du cercle restreint des technologues de la Silicon Valley aux conversations des salons américains moyens.
La panique actuelle a été déclenchée par un avertissement sévère publié par Jacob Coxson, un chercheur ayant quitté l'entreprise d'intelligence artificielle Anthropic, affirmant que des systèmes d'IA incontrôlés pourraient détruire la civilisation. Ses propos ont recueilli des centaines de millions de vues et provoqué une vague d'inquiétude parmi les citoyens, les législateurs et les célébrités. L'acteur Matt Damon et la chanteuse Sheryl Crow ont sonné l'alarme, cette dernière s'en prenant aux dirigeants sur les réseaux sociaux pour avoir « choisi leurs billions au détriment de leurs enfants ».
I resigned from Anthropic today. I spent the last three years doing pretraining research at both OpenAI and Anthropic. Neither company is acting responsibly. They are racing straight to self-improving superintelligence and gambling with our lives. More thoughts below.
Panique publique et inquiétudes dans le monde des affaires
L'intérêt du public a atteint des proportions inédites. La page Wikipédia consacrée aux risques existentiels liés à l'intelligence artificielle a enregistré une multiplication par dix de ses consultations, et les livres traitant des dangers de la technologie connaissent un boom des ventes. Le présentateur de late-show Jimmy Kimmel s'est demandé dans son émission pourquoi le public ne prenait pas le sujet plus au sérieux, et le thème est devenu central dans les groupes d'étude biblique et les discussions WhatsApp, transformant une technologie abstraite en menace sociétale majeure.
Les craintes s'infiltrent également dans le monde des affaires. Des dirigeants de sociétés de logiciels, de cybersécurité et d'équipements médicaux signalent que leurs clients redoutent désormais des failles ou des erreurs critiques de systèmes autonomes pouvant coûter des vies humaines. Parallèlement, des chercheurs en cybersécurité rapportent une hausse soudaine des dons, dont un don unique de 40 000 dollars en faveur d'un organisme de recherche sur la sécurité de l'IA.
Scepticisme industriel et motifs réglementaires
Cependant, le Wall Street Journal souligne que parmi les experts du secteur, le scénario d'une extinction de l'espèce humaine reste minoritaire. De nombreux PDG connaissent intimement les limites de la technologie et estiment que ces peurs existentielles sont infondées et peu probables.
Alors que les géants de la tech affirment prendre la sécurité au sérieux, des sources proches de l'administration de Donald Trump et de l'industrie technologique affirment qu'il s'agit d'une manœuvre orchestrée par des associations pour imposer une réglementation stricte à Washington. Coxson rejette quant à lui les accusations de coordination et se dit surpris par la réaction virale et l'hystérie publique suscitées par ses déclarations.
