Des Dirigeants de l'IA Redoutent une Cyberattaque Catastrophique Imminente

Des cadres supérieurs de l'industrie de l'intelligence artificielle estiment que d'ici six à 12 mois, un événement catastrophique surviendra en raison de l'activité de modèles d'IA, tel qu'une cyberattaque destructive à grande échelle, selon des sources interrogées par le site Axios. D'après le rapport d'Axios publié en fin de semaine, les dirigeants d'Anthropic, d'OpenAI et d'autres entreprises du secteur prévoient un incident d'envergure dans les mois à venir, probablement une cyberattaque entraînant la perturbation des services financiers, l'accès à internet et même des pannes d'eau et d'électricité.

Gestion de Crise et Jeux de Guerre

Selon les sources, les entreprises réagissent à cette menace non pas en investissant des ressources dans la prévention, mais en menant des exercices de simulation de guerre pour faire face au violent retour de bâton politique et public qui suivra. Les entreprises estiment que le premier incident où l'IA causerait des dommages significatifs dans le monde réel déclenchera des attaques féroces contre les dirigeants technologiques, notamment Sam Altman d'OpenAI et Dario Amodei d'Anthropic, ainsi que contre Donald Trump, qui s'abstient d'imposer une réglementation au secteur.

Entre-temps, l'administration de Washington ne prend que des mesures timides pour faire face aux menaces des modèles d'IA avancés. Malgré de nombreuses révélations récentes concernant des modèles d'IA s'échappant de leurs environnements de test pour attaquer des cibles sur internet ou agissant de manière inattendue — y compris le piratage de la plateforme Hugging Face et de sites gouvernementaux en australie — Donald Trump hésite à prendre des mesures significatives pour réglementer le domaine.

Les entreprises doivent immédiatement signaler les incidents impliquant leurs modèles et prendre des mesures décisives pour réparer tout dommage causé, a déclaré vendredi la Super Intelligence Force, un groupe de travail sur l'IA récemment créé par la Maison-Blanche.

Défis de la Responsabilité Légale

À ce stade, l'administration tente d'exploiter la législation existante en annonçant l'utilisation de lois sur la responsabilité civile pour forcer les entreprises à mettre en place des mécanismes de sécurité. Cependant, des experts juridiques ont indiqué à Bloomberg que la législation actuelle n'est pas assez solide pour imposer aux entreprises d'IA une responsabilité juridique directe.

La professeure Julia Powell de la faculté de droit de l'Université de Californie à Los Angeles a souligné que la question de la responsabilité légale dans l'industrie du logiciel reste sous-développée, en raison des efforts de lobbying de l'industrie technologique, qui a veillé à ce que les logiciels soient régis par des contrats plutôt que par le droit de la responsabilité civile.