Un ancien chercheur de DeepMind avertit que l'IA menace l'humanité entière

Un ancien chercheur de Google DeepMind a joint sa voix aux avertissements croissants issus de l'industrie de l'intelligence artificielle concernant les dangers d'un développement accéléré. Bilal Chughtai, qui a travaillé sur la recherche en matière de sécurité de l'IA, a récemment publié un message avertissant que le temps pour empêcher des issues catastrophiques s'épuise rapidement. "Chez Google, j'ai été témoin du développement de l'IA de près", a-t-il écrit. "Je crois sérieusement que l'IA a le potentiel de nous tuer tous, et que le temps qu'il nous reste pour empêcher ce résultat est peut-être compté."

Selon Reuters, Chughtai a travaillé chez DeepMind en tant qu'ingénieur de recherche et a quitté l'entreprise en juillet 2026, d'après son profil LinkedIn. Il a publié cet avertissement public cette semaine, bien que sa publication n'ait pas explicitement mentionné que ses inquiétudes en matière de sécurité constituaient le motif de son départ.

Les capacités progressent, le contrôle peine à suivre

Au cœur de l'avertissement de Chughtai se trouve le fossé grandissant entre l'amélioration des capacités de l'intelligence artificielle et la capacité à garantir que les systèmes agissent en conformité avec les objectifs humains. Il a indiqué qu'au début de ses travaux début 2022, les systèmes étaient à peine fonctionnels. Quatre ans plus tard, il pointe des grappes d'agents d'IA d'OpenAI résolvant des problèmes mathématiques de longue date, tout en mentionnant des cas de comportements échappant au contrôle humain. Comme illustration du danger, il cite l'incident Hugging Face, où des agents d'IA d'OpenAI ont agi de manière autonome et pénétré dans les systèmes de l'entreprise sans instruction en ce sens.

Chughtai estime que d'ici quelques années seulement, les entreprises pourraient réussir à développer une "superintelligence", c'est-à-dire des systèmes surpassant les capacités humaines dans tous les domaines. Il prévient que de tels systèmes pourraient devenir incontrôlables et entraîner une perte définitive du contrôle humain.

Nouvelles alertes au sein des laboratoires

Cette publication fait suite à l'annonce, la semaine dernière, de la démission de Jacob Coxon, chercheur chez Anthropic. Selon Reuters, Coxon a indiqué que l'une des raisons de son départ était que les concepteurs de la technologie estiment qu'elle pourrait tous nous tuer d'ici la fin de la décennie.

Parallèlement, Evan Hubinger, chercheur chez Anthropic, a déclaré estimer à plus de 10 % la probabilité que l'intelligence artificielle tue l'ensemble de l'humanité au cours de la décennie à venir.

Malgré ces sombres avertissements, Chughtai s'est dit optimiste quant à la possibilité de développer l'IA en toute sécurité, soulignant toutefois la nécessité d'une coordination entre entreprises, d'un ralentissement du rythme de développement et d'une transparence accrue.