Des chercheurs en IA font face à une grave détresse psychologique
Des chercheurs en IA d'entreprises de premier plan signalent une détresse psychologique sévère et un épuisement professionnel, craignant que le rythme rapide de développement ne pose de graves risques.
Des employés de laboratoires et d'entreprises d'intelligence artificielle de premier plan font face à de graves détresses psychologiques, craignant que les systèmes qu'ils développent ne causent des préjudices majeurs à la société, selon un rapport du Financial Times. « Il y a un sentiment de perte de contrôle et l'impression de construire quelque chose qui cause de réels dégâts », a confié un chercheur en IA chez Google.
Pression psychologique et alertes industrielles
Récemment, des figures de l'industrie, menées par Dario Amodei d'Anthropic, Sam Altman d'OpenAI et Elon Musk de SpaceX, ont mis en garde contre la perte de contrôle de l'IA, appelant à ralentir la course aux armements technologiques. Ces inquiétudes sont également très présentes parmi les salariés, provoquant un lourd tribut mental. Des employés d'Anthropic, d'OpenAI et de Google DeepMind font état d'un moral en berne et d'un épuisement professionnel lié au rythme rapide de déploiement des modèles.
« Travailler pour rendre l'IA plus sûre comporte un risque d'épuisement, car cela ressemble à une tâche impossible », a déclaré un employé de DeepMind au Financial Times.
Plusieurs chercheurs seniors ont démissionné en raison de la pression psychologique, estimant que leurs travaux ne sont pas suffisamment sécurisés avant d'être diffusés au grand public.
Domaines critiques et menaces cybernétiques
Selon des sources de l'industrie, les principaux moteurs de cette anxiété résident dans le déploiement de modèles dans des secteurs critiques tels que la défense et les infrastructures, combiné à l'absence de garde-fous adéquats. Un ancien chercheur de l'AI Security Institute (AISI) britannique a souligné que les spécialistes en cybersécurité et en biochimie s'inquiètent particulièrement des sauts capacitaires permettant d'identifier des vulnérabilités logicielles ou de concevoir des agents biologiques.
« Il y a une anxiété constante de voir des personnes se demander si quelqu'un peut arrêter cela, ou si nous assistons à l'embrasement du monde », a résumé l'ancien chercheur.
