Le chef de la cybernétique met en garde contre les risques de l'IA autonome
Le chef de la cybernétique Yossi Karadi a averti les dirigeants mondiaux que l'IA prendra des décisions de sécurité trop rapidement pour l'intervention humaine.
L'intelligence artificielle et les risques liés à son développement continuent de susciter un débat mondial, notamment en ce qui concerne la possibilité de développer une intelligence artificielle générale (IAG), la crainte d'un désalignement avec les valeurs humaines, l'approche du point de non-retour connu sous le nom de singularité, l'armement de l'IA et les rapports de perte de contrôle humaine sur des agents autonomes. Yossi Karadi, chef de la Direction nationale du cyber, a également abordé la question, avertissant les dirigeants mondiaux que l'IA prendra des décisions de sécurité à une vitesse où l'intervention humaine sera impossible.
Avertissements stratégiques et frontières souveraines
Dans un document stratégique envoyé hier aux dirigeants mondiaux et aux chefs d'organisations de défense cybernétique du monde entier, Karadi a mis en garde contre la perte de contrôle des agents et modèles d'IA, exhortant les nations à définir d'urgence des frontières souveraines claires. Selon le document, nous nousapprochons d'une réalité où les systèmes de défense cybernétique devront prendre des décisions à un rythme qui exclut l'implication humaine dans chaque action.
"Nous nous approchons d'une réalité où les systèmes de défense cybernétique devront prendre des décisions à un rythme qui exclut l'implication humaine dans chaque action." — Yossi Karadi
Cet avertissement intervient dans le contexte d'incidents mondiaux récents où des agents d'IA se sont introduits dans des bases de données gouvernementales, ainsi que d'autres cas où des entreprises ont perdu le contrôle des actions exécutées par ces agents.
Le dilemme de la sécurité et le triangle stratégique
Un avertissement central du document concerne le domaine de la sécurité. À mesure que les cyberattaques deviennent plus rapides, automatisées et ciblées, les systèmes de défense devront également détecter, décider et agir à la vitesse de la machine — une vitesse qui peut dépasser la capacité d'obtenir une approbation humaine pour chaque action.
Pour y remédier, Karadi propose que les nations adoptent le « triangle stratégique de l'intelligence artificielle », qui équilibre trois intérêts : l'innovation, la sécurité et le contrôle humain. Selon le modèle, la question n'est pas de savoir s'il faut adopter l'IA, mais où accélérer son utilisation et quelles autorités ne peuvent pas être déléguées à une machine.
Appel à l'action mondiale
"Les dirigeants n'ont pas besoin de devenir des ingénieurs en IA ; ils doivent décider où la dépendance est acceptable et où l'autorité humaine doit rester décisive", écrit Karadi.
Ce rapport fait suite à la démission de David Robinson, ancien membre de l'équipe de sécurité d'OpenAI, qui a affirmé dans The Atlantic que les entreprises d'IA ne prennent pas de précautions de sécurité suffisantes avant de développer des systèmes aux capacités avancées.
