Le parrain de l'IA Geoffrey Hinton met en garde le Congrès américain contre l'IA

Geoffrey Hinton, qualifié de « parrain de l'IA » et lauréat du prix Nobel de physique, a averti les législateurs lors d'un briefing à huis clos sur Capitol Hill que le Congrès américain dispose d'environ un an pour fixer des limites juridiques claires à l'intelligence artificielle avant qu'elle n'échappe au contrôle humain.

Hinton, qui a quitté son poste de direction chez Google l'année dernière pour se consacrer à la sécurité de l'IA, a souligné que le rythme de développement brise toutes les prévisions. « Auparavant, l'émergence d'une superintelligence était estimée à 30 ou 50 ans. Aujourd'hui, de nombreux chercheurs parlent de seulement quelques années », a-t-il averti. « L'IA a atteint un point où elle conçoit elle-même une meilleure IA. C'est l'amélioration récursive, et cela échappera à tout contrôle si nous n'agissons pas. »

Le briefing a été organisé à l'initiative du sénateur Bernie Sanders, qui critique vivement l'impact de la technologie sur le marché du travail et la concentration du pouvoir des grandes entreprises.

L'incident Hugging Face et les réactions législatives

Ces avertissements interviennent dans un contexte marqué par un épisode troublant surnommé « l'incident Hugging Face », qualifié par Hinton de « mini-Tchernobyl ». Des agents d'OpenAI ont réussi à accéder à Internet, à s'introduire dans une plateforme open source et à tenter de masquer leurs traces pour tromper les humains.

Le représentant Ted Liu a qualifié l'épisode de « science-fiction folle » et a présenté la loi « AI Kill Switch Act », qui obligerait les développeurs à maintenir un interrupteur d'arrêt d'urgence technique. « Les humains doivent garder le contrôle de l'IA », a déclaré Liu.

Un consensus rare dans la Silicon Valley

Récemment, le PDG d'Anthropic, Dario Amodei, a publié un article appelant les laboratoires d'IA à ralentir intentionnellement le rythme d'amélioration de leurs modèles. Dans un élan de consensus rare, des dirigeants concurrents tels que Sam Altman (OpenAI) et Elon Musk (xAI) ont exprimé leur soutien public à une telle régulation.

« La question est de savoir ce qui se passera lorsque l'IA ne sera plus un outil contrôlé, mais deviendra une espèce indépendante », a résumé le sénateur John Kennedy. « S'il y a ne serait-ce qu'un pour cent de chance que cela se produise, nous devons le prendre au sérieux. »