La nouvelle crainte aux États-Unis : l'IA pourrait aider à créer des armes biologiques
L'intelligence artificielle a déjà prouvé qu'elle est capable d'écrire du code, d'aider à la recherche et de résoudre des problèmes complexes. Désormais, ses capacités avancées dans le domaine de la biologie suscitent aux États-Unis une crainte d'un autre genre : pourrait-elle à l'avenir faciliter la création d'agents pathogènes dangereux et même aider à mener une attaque biologique ?
L'intelligence artificielle a déjà prouvé qu'elle est capable d'écrire du code, d'aider à la recherche et de résoudre des problèmes complexes. Désormais, ses capacités avancées dans le domaine de la biologie suscitent aux États-Unis une crainte d'un autre genre : pourrait-elle à l'avenir faciliter la création d'agents pathogènes dangereux et même aider à mener une attaque biologique ?
Selon un rapport publié lundi dans le Washington Post, la Maison Blanche travaille au renforcement des mesures de défense des États-Unis contre les attaques biologiques, alors que l'inquiétude grandit parmi les responsables et les experts concernant les capacités biologiques évolutives des systèmes d'IA. Cependant, ces efforts interviennent après que des coupes et des changements organisationnels au début du second mandat du président Donald Trump ont considérablement réduit les effectifs et l'expertise en matière de biosécurité au sein du gouvernement.
L'équipe réduite — et la menace technologique progresse
Selon trois anciens hauts responsables qui se sont entretenus avec le journal, à la fin du mandat du président Joe Biden, une équipe comptant jusqu'à 30 professionnels axés sur la biosécurité travaillait à la Maison Blanche. Son rôle était, entre autres, de coordonner les agences fédérales traitant des menaces biologiques et de fournir des conseils scientifiques aux hauts responsables du gouvernement. Après le retour de Donald Trump à la Maison Blanche, l'équipe a été rapidement réduite dans le cadre de coupes budgétaires et de changements organisationnels. Selon les sources, à certaines périodes, il n'y avait personne à la Maison Blanche dont la seule fonction était de s'occuper de la biosécurité.
Parallèlement, l'administration a annulé un décret présidentiel de 2023 sur l'intelligence artificielle, qui incluait un appel au renforcement des défenses biologiques, et a remis en question la politique de l'ère Biden visant à obliger les entreprises à effectuer des vérifications sur les clients cherchant à acheter des composants génétiques pouvant être utilisés pour créer des agents biologiques dangereux. Donald Trump a ordonné l'élaboration d'une version révisée de la politique d'ici août 2025, mais selon le Washington Post, plus d'un an plus tard, elle n'a toujours pas été publiée. Un responsable de la Maison Blanche a déclaré au journal que l'administration travaillait au renforcement de la politique précédente, qui, selon lui, était techniquement limitée et insuffisante.
La crainte : les capacités biologiques avancées de l'IA
En toile de fond se trouve la progression rapide des systèmes d'intelligence artificielle dans la recherche biologique. Selon le rapport, des responsables de l'industrie de l'IA avertissent depuis longtemps de la possibilité que les outils soient utilisés pour mener une attaque biologique. La crainte est que les modèles de langage et les outils dédiés à la conception biologique puissent à l'avenir faciliter l'exécution d'opérations de laboratoire complexes ou aider à concevoir de nouveaux agents pathogènes, y compris ceux que les systèmes de surveillance existants auraient du mal à détecter. Cependant, le Washington Post souligne que parmi les scientifiques, il existe encore des désaccords concernant la gravité du risque, le moment où il pourrait se matérialiser et la bonne façon de s'y préparer. Le rapport souligne également une avancée scientifique récente : ce mois-ci, les résultats d'une étude ont été publiés dans la revue Science, dans laquelle l'intelligence artificielle a été utilisée pour concevoir de nouveaux virus. Les virus ont été conçus pour infecter des bactéries et non des humains, on ne peut donc pas en conclure que l'IA est déjà capable de produire un virus humain mortel ; cependant, selon l'article, l'expérience a démontré la progression des capacités dans le domaine.
Pas seulement une menace : l'IA peut aussi être utilisée pour la défense
La même technologie qui suscite des inquiétudes peut également être utilisée dans le cadre de la défense. Selon le rapport, des travaux sont en cours au Pentagone visant à exploiter l'intelligence artificielle pour accélérer le développement de moyens de défense contre les futures pandémies et renforcer la dissuasion contre la guerre biologique. Une partie du travail comprend l'analyse de milliards de changements possibles dans les anticorps afin d'examiner comment il sera possible de répondre aux nouvelles formes du coronavirus. Un ancien responsable de la santé qui a dirigé l'Operation Warp Speed — l'opération mise en place pendant le premier mandat de Donald Trump pour accélérer le développement de vaccins contre le coronavirus — est également impliqué dans ces efforts. Les entreprises d'IA coopèrent également avec l'administration. Selon une personne au fait du dossier, une série de briefings a récemment eu lieu entre OpenAI et la Maison Blanche ainsi qu'environ une demi-douzaine d'agences gouvernementales sur le sujet des risques biologiques. L'entreprise travaille également à accorder aux responsables gouvernementaux l'accès à une version dédiée de GPT pour la biosécurité, connue sous le nom de Rosalind.
La question qui reste ouverte
Le défi qui ressort du rapport est double : les capacités de l'IA dans le domaine de la biologie progressent rapidement, mais c'est précisément au cours de cette période que l'appareil gouvernemental américain censé faire face aux menaces biologiques a subi des coupes et des changements importants. La Maison Blanche, pour sa part, affirme que son engagement à faire face aux risques liés à l'IA et à la biosécurité est clair et continu, et qu'elle développe une politique sur le sujet depuis plus d'un an. D'un autre côté, des experts et d'anciens hauts responsables qui se sont entretenus avec le Washington Post avertissent que la perte de personnel et d'expertise pourrait nuire à la capacité de formuler une politique à long terme. Ainsi, alors que la question de savoir dans quelle mesure l'IA facilitera réellement la création d'armes biologiques fait encore l'objet de débats scientifiques, aux États-Unis, on prend déjà la possibilité au sérieux — et on tente de reconstruire le système de défense dans une course contre la technologie en développement.
