Après le revirement et le changement de nom, la startup lève 140 millions de dollars

L'entreprise israélienne de sécurité de l'intelligence artificielle Alice, anciennement ActiveFence, a bouclé un tour de table de 140 millions de dollars mené par Apax Digital. Globes a appris que le tour a été réalisé sur la base d'une valorisation d'environ 800 millions de dollars. Cette levée de fonds porte le total des investissements dans Alice depuis sa création à 280 millions de dollars, tandis que l'entreprise affirme approcher un taux de revenus récurrents annuels (ARR) de 100 millions de dollars.

Samsung, la société de cybersécurité SentinelOne, MoreTech Ventures et The Phoenix ont également participé à ce tour. Des actionnaires existants ont également investi, notamment CRV, Grove Ventures, Norwest Venture Partners, Highland, Vintage, ClalTech et NFX. À titre de comparaison, lors d'une levée de fonds révélée en 2021, l'entreprise était valorisée à plus d'un demi-milliard de dollars.

Ce tour de table intervient, comme mentionné, environ sept mois après que l'entreprise a changé son nom d'ActiveFence à Alice, dans le cadre d'un changement profond de ses activités. L'entreprise, initialement créée pour détecter les contenus nuisibles, la fraude et les manipulations en ligne, a fait de la sécurité des systèmes d'intelligence artificielle l'un de ses principaux moteurs de croissance ces dernières années. Alice figurait, sous son ancien nom, dans la liste des startups prometteuses de Globes pour 2021.

De Google à Anthropic

Parallèlement à cette levée de fonds, Alice élargit sa liste de clients. Parmi les noms notables : Google, Anthropic, Nvidia, Meta, TikTok et Amazon. Selon l'entreprise, sa technologie est utilisée pour protéger des services qui touchent plus de trois milliards d'utilisateurs, et elle travaille actuellement avec huit des dix principaux laboratoires d'IA développant des modèles avancés. Le fait que des entreprises concurrentes figurent sur la liste s'explique par le type de produit proposé par Alice. L'entreprise ne développe pas son propre modèle d'IA général, mais plutôt une couche de test et de protection pour les entreprises qui construisent les modèles et pour les organisations qui les intègrent dans leurs produits et systèmes.

Ainsi, avant le lancement d'un nouveau modèle, les chercheurs d'Alice tentent de briser ses mécanismes de défense et de le pousser à agir à l'encontre des règles établies : révéler des informations qu'il n'est pas autorisé à divulguer, ignorer des instructions ou effectuer une action qu'il n'a pas été invité à faire. Ce processus, appelé « Red Teaming » (équipe rouge), permet d'identifier les vulnérabilités et d'adapter les protections au modèle, aux données, aux autorisations et aux outils auxquels il est connecté.

Une fois le système mis en ligne, Alice continue de le tester dans l'environnement réel où il opère. L'organisation peut définir quelles actions sont autorisées ou interdites, simuler des attaques visant à exposer des fuites de données ou des violations réglementaires, et surveiller en temps réel les instructions envoyées au système et les réponses qu'il renvoie. Cette activité est réalisée grâce à des logiciels ainsi qu'à des équipes de chercheurs et d'ingénieurs travaillant directement avec les clients. Selon Alice, son laboratoire de sécurité de l'IA emploie plus de 150 chercheurs.

Toujours selon l'entreprise, le besoin d'une telle couche de protection augmente à mesure que les agents d'IA obtiennent un accès plus large aux informations et aux systèmes organisationnels, et peuvent non seulement répondre à des questions mais aussi effectuer des actions de manière autonome. Le rapport international sur la sécurité de l'IA pour 2026 a indiqué que les mécanismes de défense s'améliorent mais souffrent encore de limitations significatives : dans certains cas, ils peuvent être contournés en reformulant la demande ou en la divisant en plusieurs étapes.

La pénétration de l'IA générative sur le marché a entraîné un changement d'activité

Alice a été fondée en 2018 par Noam Schwartz, Yiftach Orr, Alon Porat et Eyal Dykan. Sous le nom d'ActiveFence, elle a développé des systèmes aidant les réseaux sociaux et les plateformes internet à détecter les contenus violents, la fraude, la propagande extrémiste, la désinformation et les activités coordonnées. Cette activité exigeait de l'entreprise qu'elle suive la manière dont les acteurs hostiles modifient leurs méthodes et tentent de contourner les mécanismes de défense.

Avec le lancement de ChatGPT fin 2022 et la pénétration rapide de l'intelligence artificielle générative sur le marché, il est devenu clair pour l'entreprise que ces mêmes connaissances pouvaient également être utilisées pour protéger les modèles et les systèmes basés sur ceux-ci. D'une part, des acteurs criminels ont commencé à utiliser des outils d'IA pour générer de la fraude, des attaques de phishing et des contenus trompeurs à plus grande échelle. D'autre part, les entreprises développant les modèles avaient besoin d'un moyen systématique de tester comment ils pouvaient être exploités. Les connaissances accumulées lors de l'activité initiale constituent également la base de Rabbit Hole, une base de données de modèles d'attaques et de contenus nuisibles collectés dans le monde réel. La base de données permet aux chercheurs de l'entreprise de tester les systèmes d'IA face à des méthodes déjà observées sur le réseau et d'identifier leurs nouvelles versions. À mesure que le domaine de l'IA prenait une part plus importante dans l'activité de l'entreprise, la direction a décidé que le nom ActiveFence ne reflétait plus ses activités, et en janvier dernier, elle a finalisé le changement de marque en Alice.

Les fonds levés seront utilisés pour agrandir le centre de développement d'Alice en Israël, augmenter les équipes de vente et de marketing, et élargir l'équipe développant Rabbit Hole. Alice emploie actuellement environ 400 personnes, la plupart en Israël, et le reste dans des bureaux à New York, Londres et Hanoï.

« Notre objectif est que les organisations puissent faire confiance à leurs systèmes d'IA et savoir qu'ils fonctionneront comme prévu », a déclaré Noam Schwartz, PDG et cofondateur d'Alice. « Pour y parvenir, il faut placer devant les modèles des experts qui les mettent au défi chaque jour. »