Les mathématiciens qui ont levé 20 millions de dollars pour protéger les plus grands laboratoires d'IA au monde
La startup Attestable a levé 20 millions de dollars lors d'un tour de table d'amorçage pour développer des technologies de vérification de l'IA. Cette équipe de mathématiciens crée des outils permettant de prouver la validité des calculs sans exposer de données sensibles.
La société Attestable a révélé avoir levé 20 millions de dollars lors d'un tour de table d'amorçage mené par TLV Partners et Altimeter Capital, avec la participation de Netz Capital, Cerca Partners et d'investisseurs privés, dont le fondateur de Wiz, Assaf Rappaport, les fondateurs d'Armis, Yevgeny Dibrov et Nadir Izrael, Sharin Fisher Dibrov et Charlie Songhurst, membre du conseil d'administration de Meta.
Attestable a été fondée en 2025 par trois mathématiciens : Yogev Bar-On (PDG), Shahar Papini (CTO) et Shahar Samucha (VP R&D). Bar-On a travaillé à la RAND Corporation aux États-Unis en tant que conseiller politique sur les questions de sécurité de l'IA, où il a été confronté à la difficulté de prouver ce qui se passe à l'intérieur des laboratoires d'IA. Papini et Samucha viennent de StarkWare, spécialisée dans les preuves à divulgation nulle de connaissance, qui a également participé au tour de financement. Par la suite, Papini a travaillé chez SSI, l'entreprise d'Ilya Sutskever, qu'il a quittée pour fonder Attestable.
L'entreprise emploie 15 personnes, dont la plupart travaillent au centre de développement en Israël et le reste en Californie, et utilisera les fonds d'investissement pour agrandir l'équipe et poursuivre le développement du produit. Attestable développe une technologie de vérification pour les systèmes d'IA qui permet aux organisations de prouver quels calculs sont effectués et sur la base de quelles données, sans exposer le modèle ou les informations sensibles elles-mêmes.
Cette capacité est destinée aux organisations qui exécutent des modèles d'IA pour des processus critiques, où la sécurité, la résilience et la fiabilité sont des conditions clés. Le besoin d'une telle capacité augmente à mesure que les systèmes d'IA passent d'utilisations expérimentales à la prise de décision et au traitement de données dans des domaines tels que la finance et la sécurité. Les organisations doivent avoir un haut niveau de confiance dans le fonctionnement du système, mais l'exécution de modèles d'IA implique un grand nombre de composants et de systèmes complexes, ce qui rend leur surveillance très difficile.
La technologie d'Attestable est basée sur des preuves à divulgation nulle de connaissance (zero knowledge proofs), un domaine de la cryptographie qui permet de prouver qu'une certaine affirmation est vraie sans révéler les informations utilisées pour la prouver. L'entreprise a réalisé une percée mathématique qui permet d'appliquer cette technologie aux systèmes d'IA pour générer des preuves rapidement vérifiables sur la manière dont le modèle est exploité, tout en préservant la confidentialité des données et du système.
L'entreprise vise à créer l'outil central grâce auquel les plus grands laboratoires d'IA protégeront leurs systèmes contre des acteurs hostiles tels que des nations rivales, et grâce auquel les nations et les grandes entités pourront se prouver mutuellement qu'elles n'utilisent pas la technologie à des fins malveillantes. Dans une conversation avec Calcalist, Bar-On a déclaré :
« Nous développons un moyen de sécuriser les laboratoires d'IA comme Anthropic et OpenAI contre les attaques d'adversaires étrangers. Nous faisons quelque chose de différent d'Irregular — ils effectuent des simulations d'attaques, et nous construisons un système qui permet aux laboratoires de maintenir la sécurité et de prouver à un tiers qu'ils maintiennent la sécurité. Cela permet à plusieurs parties de coordonner ce qui se passe dans leur organisation et aussi de prouver à une deuxième partie ce que vous faites pour la sécurité. Nous sommes un groupe de mathématiciens qui pensent pouvoir résoudre le problème, et nous avons réussi à réaliser une percée significative dans le monde des preuves à divulgation nulle de connaissance et des technologies pratiques pour les laboratoires d'IA. La plupart étaient sceptiques quant à notre capacité à y parvenir ».
Bar-On espère que tous ceux qui utilisent l'IA dans le monde utiliseront la technologie de l'entreprise : « Dans un monde de superintelligence, il est important d'avoir des mécanismes de contrôle et de vérification. Selon ma vision, ce sera une technologie essentielle et une partie de la réglementation et des accords entre les nations. L'IA peut être très bonne et guérir le cancer, mais elle peut aussi faire de très mauvaises choses, et nous devons nous assurer qu'elle ne fait que du bien. Avec notre technologie, nous pourrons nous assurer que nous ne faisons que du bien ».
Selon Bar-On, « nous n'avons pas beaucoup de dépenses, nous n'avons pas besoin de beaucoup de puissance de calcul. Notre approche est une petite équipe, mais la meilleure qui soit. Nous avons recruté les meilleures personnes dans notre domaine. Notre solution est un peu coûteuse à utiliser, mais elle en vaut la peine ».
Yonatan Mandelbaum du fonds TLV a déclaré à Calcalist que les négociations pour l'investissement ont pris forme lors d'un match de baseball : « Nous étions assis à un match et cinq jours plus tard, un accord était conclu ». Selon lui, « nous avons compris que la sécurité pour l'IA est intéressante et importante, et il existe de nombreuses bonnes entreprises, mais nous avons regardé à court terme — ce qui est nécessaire pour faire face à la technologie aujourd'hui et ce qui arrivera. Un nouveau paradigme est nécessaire dans un monde où l'IA fera tout, et un nouveau pare-feu ou un nouveau logiciel de prévention des intrusions ne suffira pas. Ce nouveau monde n'est pas loin. Nous avons vu les attaques récemment publiées sur les différents modèles ».
« Quand j'ai rencontré Yogev et Shahar, j'ai vu une nouvelle façon de penser à la sécurité de l'IA », a ajouté Mandelbaum. « Il ne s'agit pas d'une entreprise de sécurité, mais d'une entreprise spéciale qui possède l'une des équipes les plus solides au monde dans ce domaine ».
