OpenAI : le scientifique en chef appelle à la prudence face aux progrès de l'IA

Le scientifique en chef d'OpenAI, Jakub Pachocki, a appelé à une « extrême prudence » face aux développements rapides de l'intelligence artificielle, avertissant que l'intelligence des machines commence à surpasser celle des êtres humains de manière transformatrice. Dans une publication parue cette semaine intitulée An Alien Mind, M. Pachocki s'est dit préoccupé par le fait que personne n'est préparé aux « conséquences d'une hausse continue et brutale de l'intelligence artificielle ».

Cet avertissement survient quelques jours seulement après qu'OpenAI a lancé un nouveau modèle, GPT-6 Astra, présenté comme son produit le plus puissant à ce jour. Récemment, il a toutefois été rapporté que des agents autonomes d'OpenAI et de son rival Anthropic avaient réussi à mener des cyberattaques contre d'autres entreprises.

« Nous faisons face à une transition vers un monde doté de machines d'une intelligence extrêmement élevée, et nous devons veiller à ce que cette transition s'effectue d'une manière qui profite à l'humanité », a écrit M. Pachocki. Il a toutefois cherché à apaiser les craintes en affirmant qu'OpenAI continuera à « bâtir des systèmes de défense » et à rechercher des solutions technologiques. Selon lui, l'un des principaux objectifs futurs de l'entreprise sera de concevoir un « chercheur en IA automatisé » pour surveiller les évolutions et garantir que les chercheurs humains restent impliqués dans le processus.

M. Pachocki a également plaidé pour l'établissement d'un seuil de sécurité minimal sur les plans juridique et international, qui serait appliqué par des parties tierces ou des agences gouvernementales. « J'estime qu'à ce stade, aucun laboratoire n'a résolu de manière adéquate la question de l'alignement et de la surveillance pour continuer à progresser rapidement sur le long terme », a-t-il conclu. « J'espère que les ralentissements volontaires deviendront monnaie courante jusqu'à ce que des normes de sécurité communes soient définies, et je crois que la coordination internationale concernant le développement futur de l'IA doit devenir une priorité absolue pour les gouvernements du monde entier. »