Le chercheur Nate Soares évalue à 50 % le risque d'extinction lié à l'IA

Le chercheur en apprentissage automatique Nate Soares, ancien ingénieur logiciel chez Google et Microsoft, estime à plus de 50 % la probabilité que l'intelligence artificielle provoque l'extinction de l'humanité au cours de la prochaine décennie. Lors d'un entretien accordé au podcast de Nicholas Thompson, directeur général du magazine The Atlantic, il a confié que cette conviction l'avait poussé à cesser d'épargner pour sa retraite il y a environ dix ans.

"Il semble actuellement probable qu'il ne nous reste pas une décennie", a déclaré Soares, précisant que le risque de disposer de moins de dix ans dépasse la barre des 50 %. Cette évaluation relève de sa propre projection et non d'une conclusion scientifique formalisée. S'il conserve un plan d'épargne constitué lors de son passage chez Google, il n'y a plus versé le moindre fond depuis près de dix ans.

Soares préside actuellement le Machine Intelligence Research Institute, une organisation à but non lucratif établie à Berkeley et réputée pour sa vision pessimiste selon laquelle l'émergence d'une superintelligence artificielle mènerait à la disparition de l'espèce humaine. Au cours de l'entretien, il a comparé cette menace existentielle à l'ombre de la destruction nucléaire.

"C'est peut-être la première fois que nous vivons avec la perspective d'une extinction simultanée de tous les êtres humains, mais sur un plan personnel, nous avons toujours vécu sous la menace des épidémies et des guerres", a observé Soares. Il affirme faire tout son possible pour prévenir un tel scénario tout en menant une vie normale, estimant que l'apocalypse n'est pas inéluctable.

Face aux réserves formulées par Thompson quant aux limites actuelles des technologies de pointe, Soares a filé la métaphore de la transition historique entre les chevaux et l'automobile, soulignant que les systèmes continuent de progresser de manière exponentielle. Il a tenu à écarter les craintes liées au marché du travail : "Je ne crois pas à l'apocalypse de l'emploi causée par l'IA. Je crois à l'IA qui tue tous les humains", a-t-il ironisé, ajoutant que le plein emploi serait garanti juste avant l'annihilation.

Pour parer ce péril, Soares préconise de limiter strictement l'expansion et les capacités des systèmes avancés. S'il juge acceptables les usages ciblés en matière de recherche médicale, il estime que la quête d'une intelligence artificielle générale capable d'égaler ou de surpasser l'esprit humain constitue une impasse dangereuse qu'il convient de rejeter.