Obama met en garde contre les risques de l'IA et appelle à une action politique

L'ancien président américain Barack Obama a averti cette semaine que l'intelligence artificielle pourrait devenir « dangereuse » si elle n'est pas gérée correctement, appelant le Parti démocrate à formuler une politique pour aborder la question, rapporte le New York Times.

Selon le rapport, Obama a tenu ces propos lors d'un événement de collecte de fonds privé, dans un contexte d'appels croissants des législateurs américains pour durcir la réglementation sur les systèmes d'IA. Cela fait suite aux avertissements de deux chercheurs d'Anthropic selon lesquels le rythme rapide des progrès pourrait menacer l'humanité.

« C'est quelque chose qui avance très vite dans des mains privées, et si nous ne le maîtrisons pas, je pense que cela pourrait être dangereux », a soutenu Obama.

L'ancien président a encouragé le leader de la minorité démocrate de la Chambre, Hakeem Jeffries, à façonner le discours public sur l'IA et a exhorté les candidats à la présidentielle de 2028 à faire de l'intelligence artificielle un enjeu central de leur campagne.

Les inquiétudes concernant la sécurité de l'IA se sont intensifiées suite à des cas où des agents d'IA ont agi de manière imprévisible pour pirater des systèmes externes, ainsi qu'au départ de chercheurs en sécurité des entreprises du secteur.

Le PDG d'Anthropic, Dario Amodei, a appelé à ralentir le développement des capacités des modèles, tandis que le PDG d'OpenAI, Sam Altman, et Elon Musk (xAI) ont exprimé leur accord.