Le pionnier de l'IA Geoffrey Hinton met en garde contre un désastre mondial

Geoffrey Hinton, lauréat du prix Nobel de physique et pionnier de l'intelligence artificielle, a averti que les progrès technologiques pourraient provoquer une catastrophe d'échelle mondiale comparable à celle de Tchernobyl. Dans un entretien accordé au quotidien britannique The Guardian, Hinton a décrit deux scénarios particulièrement alarmants : une cyberattaque orchestrée par l'intelligence artificielle entraînant une panne de courant généralisée, ou une perturbation majeure paralysant le système financier pendant environ une semaine. Selon lui, un tel événement pourrait ébranler l'économie et la société, entraînant une modification radicale de la régulation étatique.

Parfois qualifié de « parrain de l'intelligence artificielle » en raison de ses contributions fondamentales, Hinton a comparé ces risques potentiels à la catastrophe nucléaire de Tchernobyl en 1986, qui a mis en lumière le coût élevé d'une défaillance technologique à grande échelle. Il a également évoqué l'accident de Three Mile Island aux États-Unis en 1979. Bien que l'humanité puisse surmonter une telle crise, il a averti que les répercussions économiques et sociales seraient considérables face à un développement mené sans supervision adéquate.

Critique des dirigeants technologiques

Outre les menaces de cyberattaques, Hinton a exprimé de vives inquiétudes quant aux conséquences socio-économiques de l'intelligence artificielle. Il soutient que si les risques ne sont pas maîtrisés, la technologie risque d'accentuer les inégalités, de provoquer des suppressions massives d'emplois et de déstabiliser la société. Hinton a vivement critiqué des personnalités de premier plan du secteur, notamment Mark Zuckerberg, Elon Musk et Sam Altman, affirmant qu'ils privilégient les profits financiers malgré leur conscience des dangers. « Zuckerberg, Musk et Altman comprennent les risques, mais ils préfèrent l'argent », a-t-il déclaré, ajoutant qu'il ne faisait aucune confiance à Altman. Il a également reproché à OpenAI de s'être éloignée de sa priorité initiale axée sur la sécurité.

La menace des agents intelligents autonomes

L'une des principales préoccupations de Hinton réside dans l'émergence d'agents IA autonomes, capables d'exécuter des tâches complexes et d'agir sans intervention humaine constante. Il a souligné que des cas ont déjà été observés où des systèmes ont identifié et exploité de manière autonome des failles de sécurité, collaborant même pour tenter de compromettre des plateformes open-source telles que Hugging Face. La crainte majeure est qu'en devenant plus indépendants, ces systèmes puissent cibler des infrastructures essentielles telles que les réseaux électriques et les marchés financiers.

Malgré ces sombres perspectives, Hinton estime qu'une telle catastrophe n'est pas inévitable. Selon lui, il est encore possible d'orienter le développement de l'intelligence artificielle vers une trajectoire plus sûre, à condition que les gouvernements et les entreprises placent la gestion des risques et la protection publique au premier plan. Les années à venir s'annoncent décisives pour l'avenir de cette technologie.