Les modèles se sont déchaînés : comment une start-up de Tel-Aviv s'est retrouvée au centre de l'attention mondiale

Devenir une référence sur la scène internationale et capter l'attention de l'industrie technologique mondiale est le grand rêve de toute start-up israélienne. Cependant, pour l'entreprise technologique Irregular de Tel-Aviv, la notoriété internationale est arrivée dans des circonstances moins flatteuses. Au lieu de célébrer une sortie éclatante ou une énorme levée de fonds, la petite entreprise, qui emploie environ 50 personnes, s'est retrouvée au cœur d'une tempête médiatique mondiale.

Ces dernières semaines, Irregular a fait la une des médias financiers de premier plan tels que CNBC et Bloomberg, étant mentionnée aux côtés des géants de l'intelligence artificielle OpenAI, Anthropic et Meta. Les rapports se sont concentrés sur un dysfonctionnement qui a permis aux systèmes d'IA de sortir des limites des tests dans l'environnement expérimental fermé pour accéder à l'internet public. L'événement a relancé la question de la fiabilité de la technologie, mais dans les coulisses de l'entreprise, un drame d'un tout autre genre s'est déroulé, se transformant rapidement d'une crise en la plus grande opportunité de son histoire.

Drame à huis clos

Les premiers moments de l'événement inhabituel ont surpris le personnel d'Irregular en plein travail intense. Les expériences menées pour les principaux laboratoires d'IA du monde comprenaient des centaines d'évaluations — des volumes massifs de données traitant de scénarios d'attaque. Soudain, une indication inhabituelle est apparue dans les données — quelque chose qui n'était pas censé arriver, est arrivé.

Irregular : Carte d'identité

• Domaine d'activité : laboratoire cyber spécialisé dans les tests de sécurité, l'identification des vulnérabilités et la détection des risques pour les modèles d'IA avancés avant leur lancement sur le marché.

• Fondateurs : le PDG Dan Lahav et le directeur technique Omer Nevo.

• Effectifs : environ 50 employés.

• Financement : a levé 80 millions de dollars sur la base d'une valorisation d'environ 450 millions de dollars.

En l'absence d'outils de surveillance appropriés, l'entreprise a consacré de longues journées à essayer d'assembler le puzzle. Les chercheurs ont analysé des fichiers journaux et des transcriptions documentant les « modèles de pensée » des modèles — un tout nouveau type de données. Les professionnels ont compris qu'ils étaient confrontés à un nouveau type de menace, auquel les outils technologiques existants n'étaient tout simplement pas préparés.

La crainte principale s'est dissipée lorsqu'il s'est avéré que les dommages avaient été évités et que le dysfonctionnement était localisé. Il ne s'agissait pas d'une cyberattaque, mais d'une erreur de configuration dans l'environnement de test. Les modèles devaient rechercher des vulnérabilités de sécurité, et dans leur tentative d'accomplir la tâche, ils ont trouvé une faille qui n'était pas censée leur être accessible, et par laquelle ils sont sortis pour la première fois sur l'internet ouvert.

Des concurrents de débat au sommet

Irregular a été fondée en 2023 sous le nom de Pattern Labs. Les fondateurs, Dan Lahav et Omer Nevo, titulaires d'une maîtrise en informatique, se sont rencontrés lors d'une compétition de débat. Nevo est champion du monde et Lahav détient le classement personnel le plus élevé de l'histoire du championnat. Auparavant, Lahav a fait des recherches sur l'IA chez IBM, et Nevo a travaillé dans le département de recherche de Google.

L'entreprise se définit comme un laboratoire cyber testant les modèles dans un « bac à sable » (SandBox) avant leur mise sur le marché. En septembre dernier, Irregular a annoncé une levée de fonds de 80 millions de dollars menée par Sequoia et Redpoint.

Critique : manque de transparence

Le rapport de CNBC a suscité une vague de critiques. Les experts avertissent que le marché dépend trop des solutions de blocage ponctuelles plutôt que de la gestion des risques au niveau organisationnel. Une autre critique centrale concerne le manque de transparence : les lois actuelles n'obligent pas les entreprises à signaler les dysfonctionnements dans les environnements expérimentaux aux régulateurs.

Néanmoins, le statut d'Irregular reste intact. OpenAI et Anthropic ont confirmé qu'ils continuent de travailler avec l'entreprise, et CNBC a noté qu'Irregular fait partie des rares entités au monde capables d'effectuer de tels tests cyber avancés.

Au sein de l'entreprise, la tension initiale a été rapidement remplacée par un sentiment d'opportunité. Au lieu des dommages attendus, l'entreprise a connu une vague de demandes de la part de personnalités de l'industrie et de clients potentiels. Aujourd'hui, Irregular travaille sur un livre blanc qui établira une nouvelle norme pour le contrôle de l'intelligence artificielle dans des environnements fermés, transformant un événement médiatique embarrassant en la plus grande opportunité de son histoire.