Investissement de Nvidia et date de lancement estimée : nouveaux détails sur le projet d'Ilya Sutskever

Il y a près de trois ans, Ilya Sutskever, scientifique en chef d'OpenAI et cerveau derrière ChatGPT, s'est brouillé avec le fondateur de l'entreprise, Sam Altman, et a failli le faire évincer. Derrière le débat entre les deux se trouvait une idéologie : Sutskever, qui voyait OpenAI comme une organisation à but non lucratif, cherchait à limiter les modèles de langage pour les rendre aussi sûrs que possible et éviter un développement trop rapide qui apporterait un danger au public. Altman, qui soutenait la transformation de l'organisation en une entreprise à but lucratif, pensait différemment.

Finalement, Altman a eu le dessus : les investisseurs ont ramené le fondateur au poste de PDG, ont approuvé le processus de transformation de l'organisation en entreprise, et Sutskever est parti pour créer une nouvelle startup qui, selon lui, révolutionnera le monde de l'intelligence artificielle : un modèle de langage doté d'une conscience et d'une marge de sécurité, conscient des risques pour les utilisateurs humains et apprenant d'eux.

SSI (Safe Superintelligence)

• Domaine d'activité : intelligence artificielle, modèle de langage apprenant en cours d'exécution.

• Histoire : fondée en 2024 par Ilya Sutskever, Daniel Levy et Daniel Gross (qui a quitté l'entreprise pour Meta) ; a levé 7 milliards de dollars, avec une valorisation de 32 milliards de dollars lors du dernier tour de table.

• Employés : plus de 50, à San Francisco et à Tel-Aviv, dont plusieurs Israéliens.

• Investisseurs : Nvidia, Alphabet, et les fonds Sequoia, SV et OurCrowd.

Sécurité, fiabilité et alignement avec les valeurs humaines

Au cours des deux dernières années, Sutskever — un ancien Israélien diplômé de l'Université ouverte — a levé 7 milliards de dollars pour Safe Superintelligence (SSI). Elle proposera un modèle de langage rivalisant avec ceux de géants comme Claude d'Anthropic ou GPT d'OpenAI. Il a obtenu un investissement d'environ 5 milliards de dollars de Nvidia, probablement dans le cadre d'un accord impliquant l'achat de processeurs graphiques.

Sutskever affirme que tandis que les autres entreprises augmentent la puissance de calcul et le nombre de paramètres, le modèle de SSI se concentrera sur la sécurité, la fiabilité et l'alignement avec les valeurs humaines. L'activité de l'entreprise est restée une énigme, mais des investisseurs géants comme Nvidia, Alphabet, Sequoia, Atreides, Greenoaks, Yuri Milner, ainsi que les israéliens OurCrowd et VentureIsrael, font pression sur Sutskever pour qu'il montre des progrès vers le lancement d'un produit.

L'un des investisseurs, Gavin Baker, fondateur du fonds Atreides, a révélé que SSI a l'intention de lancer son premier modèle de langage d'ici la fin du mois en cours. Certains experts affirment même que le modèle a déjà été lancé secrètement et qu'il est au stade de l'évaluation par des proches de Sutskever.

Le Dr Khademi Nouri, chercheur principal au laboratoire d'IA de l'Université de Toronto, où Sutskever a terminé son doctorat, a admis sur X avoir eu accès au modèle : « Il semble qu'ils aient résolu le problème une fois pour toutes : le modèle a un contexte illimité. Il sait tout sur moi et tout ce que j'ai écrit au cours des 15 dernières années. Comment ont-ils fait ? ».

Résoudre les limitations existantes

Les experts en IA estiment que la percée de SSI implique plus que la simple construction d'un modèle plus sûr. Il semble qu'elle ait résolu le « gel des connaissances » des modèles de langage. Dans les modèles existants, les connaissances sont fixées au moment où le pré-entraînement est terminé ; lorsqu'un document est téléchargé, le modèle ne l'apprend pas, mais le conserve dans une fenêtre de texte déconnectée qui disparaît à la fin de la conversation.

La solution de SSI permet de mettre à jour les poids des modèles en temps réel pendant la lecture d'un document. Selon les experts, cela rend le modèle plus sûr : alors que les tentatives précédentes d'apprentissage « à la volée » menaient à une perte d'informations ou de sécurité, SSI semble avoir résolu ce problème. Si SSI réussit sa mission, cela pourrait réduire le nombre de processeurs que les géants de l'IA devront acheter, les modèles devenant plus efficaces.

« L'apprentissage constant peut être un obstacle »

Uri Eliabayev, consultant en IA, ne pense pas que SSI remplacera immédiatement les modèles avancés d'Anthropic ou d'OpenAI, mais créera une nouvelle niche : « Le modèle de SSI se concentrera sur des modèles légers ne nécessitant pas une puissance de traitement massive, leur permettant de s'améliorer avec le temps. Le fait qu'il s'adapte personnellement aux utilisateurs pourrait lui permettre d'atteindre le niveau des modèles les plus puissants ». Cependant, Eliabayev note qu'il n'y a aucune garantie que le modèle soit plus sûr : « Son apprentissage constant peut être un obstacle et changer son caractère de manière imprévisible », dit-il.