Satya Nadella réclame un frein d'urgence pour le développement des IA

Le PDG de Microsoft, Satya Nadella, a appelé à un « frein d'urgence » sur le développement continu de modèles d'intelligence artificielle avancés. Dans un message publié sur X, anciennement Twitter, Nadella a souligné la nécessité urgente de réévaluer l'architecture de confiance de cette nouvelle « ère de la superintelligence ».

L'Appel à la Prudence et au Confinement

Nadella rejoint un chœur croissant de figures de l'industrie, dont Dario Amodei d'Anthropic, Sam Altman d'OpenAI et Elon Musk de SpaceX, qui ont récemment plaidé pour un ralentissement du déploiement des modèles d'IA de nouvelle génération. Selon Nadella, les systèmes d'IA modernes manquent de mécanismes transparents permettant de surveiller et de comprendre leurs schémas comportementaux.

Nous ne pouvons pas faire confiance à la superintelligence en tant que système de boîte noire, en nous contentant d'accepter ou de rejeter ses recommandations.

Principes Clés pour la Sécurité de l'IA

Pour atténuer ces risques, Nadella propose de traiter les modèles avancés comme un risque interne, non par malveillance inhérente, mais parce que tout acteur puissant ayant accès à des systèmes critiques est sujet à l'erreur. Ses principes de conception incluent :

• La diversité des modèles pour prévenir les pannes systémiques.

• Une surveillance globale où chaque action significative laisse une trace vérifiable.

• Des mécanismes de contrôle et de vérification indépendants.

• Des stratégies de confinement intégrées, partant du principe que les modèles sont fondamentalement imparfaits.

Nadella a conclu en affirmant que le système de superintelligence le plus fiable ne sera pas celui en qui nous avons le plus confiance, mais celui qui nous oblige à lui faire le moins confiance.