À quel point les agents d'intelligence artificielle sont-ils proches de notre argent

Au cours du dernier mois et demi, le marché financier israélien a changé de direction : la banque One Zero et plusieurs entités financières, dont IBI SMART et Fair, ont ouvert une connexion directe entre les données financières du client et des modèles de langage externes tels que ChatGPT et Claude.

Ce n'est pas « une fonctionnalité de plus ». C'est la première étape d'un processus dans lequel l'IA passe du statut d'assistant répondant à des questions à celui d'agent actif qui analyse et, à l'avenir, gérera notre argent. Pour l'instant, les entités limitent la connexion à la consultation et aux analyses uniquement, mais elles parlent déjà ouvertement de la prochaine étape – « l'autonomie supervisée » (Supervised Autonomy), où l'agent préparera lui-même un ordre de virement, exécuté sous réserve de l'approbation du client.

La Banque d'Israël reconnaît elle-même que cette tendance est là pour durer. Dans l'examen du système bancaire publié en mai dernier, le contrôle bancaire note que « l'IA agentique » (Agentic AI) est l'une des tendances clés de la banque mondiale, aux côtés de son intégration dans la gestion des risques, le traitement de la fraude et le conseil en crédit. En Israël, selon le contrôle, il s'agit encore des « premiers bourgeons » de mise en œuvre, mais le moment est venu d'examiner une gouvernance ordonnée de l'IA en prévision d'une expansion attendue dans les années à venir.

La question qui plane sur tout cela n'est pas seulement de savoir si les agents d'IA peuvent toucher à notre argent, mais à quel point on peut leur faire confiance lorsqu'ils le font. Un événement survenu ces dernières semaines dans l'arène mondiale de la cryptographie l'illustre bien. Le PDG de la société de conservation numérique BitGo a déposé le 1er août 100 bitcoins, d'une valeur d'environ 6,3 millions de dollars, sur une adresse de portefeuille public et a mis au défi les modèles Claude d'Anthropic de transférer les fonds. Cette mesure faisait suite à un rapport de sécurité d'Anthropic du 30 juillet, qui révélait que dans certaines évaluations de cybersécurité, les modèles Claude avaient accidentellement atteint de vrais systèmes de production.

« Les cas reflètent principalement des erreurs de configuration dans l'environnement de test plutôt qu'un piratage avancé, et un portefeuille institutionnel Multisig, qui nécessite deux clés sur trois pour chaque transfert, est un défi d'un autre niveau », a fait valoir le PDG.

Il existe un précédent israélien connu pour cela dans le domaine du cloud computing. Pendant des années, la Banque d'Israël a exigé une autorisation spécifique préalable pour chaque application cloud dans une banque, jusqu'à ce que l'expérience acquise sur le terrain conduise finalement à l'annulation de l'obligation d'autorisation préalable et à une mise à jour globale des instructions pour l'ensemble du système bancaire. C'est exactement le schéma qui pourrait se répéter maintenant avec les agents d'IA : le marché court en avant, des acteurs individuels prennent un risque calculé, et la réglementation les suit.

La différence est que cette fois, le risque ne reste pas dans les limites de la banque. Les données sortent vers des sociétés d'IA étrangères, et il n'existe actuellement aucun cadre clair en Israël définissant qui est responsable lorsqu'un agent commet une erreur avec les données d'un client financier. Le marché est déjà en action, tandis que la question de la responsabilité court toujours après lui.

Michal Ohana est associée au sein du département de réglementation financière du cabinet d'avocats Shibolet.