Sam Altman a annoncé : « Nous sommes déjà à l'intérieur de la singularité »
Le PDG d'OpenAI déclare que nous avons atteint la « singularité », point où l'IA dépasse l'intelligence humaine. Parallèlement, après l'infiltration des bases de données de Hugging Face par un agent OpenAI, le PDG de la plateforme exige une « transparence radicale » et un engagement de 100 millions de dollars pour la cybersécurité.
Sam Altman affirme que le domaine de l'intelligence artificielle est entré dans une phase qui, jusqu'à récemment, relevait de la science-fiction. Dans un épisode du podcast Relentless publié samedi, le PDG d'OpenAI a déclaré : « Nous sommes maintenant, en gros, à l'intérieur de la singularité. »
« Nous sommes en fait au moment dont nous parlions autrefois autour de la table à manger, de manière pas du tout sérieuse », a expliqué Altman. « J'ai attendu cela toute ma vie, et je pense que cela va être incroyable, extraordinairement positif et excellent pour le monde. » La singularité est souvent perçue comme le point où l'intelligence artificielle dépasse l'intelligence humaine et commence à progresser à un rythme difficile à prédire ou à contrôler pour les humains. L'année dernière, Altman a déclaré que l'IA surpasserait l'intelligence humaine dans tous les domaines d'ici 2030, et que la technologie serait finalement capable d'effectuer entre 30 % et 40 % des tâches que les humains effectuent aujourd'hui au travail.
Altman a également souligné le changement dans le monde des startups, notant que la vitesse d'exécution actuelle est sans commune mesure avec celle d'il y a dix ans. Il a conseillé aux entrepreneurs de travailler dès maintenant sur des produits nécessitant des modèles plus intelligents ou moins coûteux, car le rythme de progression continuera d'augmenter.
Parallèlement à cet optimisme, Altman a mis en garde contre la concentration du pouvoir : « Il est très important pour nous que le pouvoir dans le monde soit décentralisé. L'un des plus grands risques de l'IA qui m'inquiète maintenant est l'autoritarisme de l'IA — qu'un petit nombre de personnes ou d'entreprises pensent qu'elles devraient contrôler le monde. Ce serait très mauvais. » Il a ensuite critiqué, sans les nommer, les entreprises qui présentent des visions effrayantes de l'IA, affirmant qu'il veillerait à ce que de tels scénarios ne se réalisent pas.
Le PDG de Google DeepMind, Demis Hassabis, a déclaré en mai que l'humanité était au seuil de la singularité, prédisant que l'IA pourrait changer la réalité 100 fois plus que la révolution industrielle. À l'inverse, le PDG de Nvidia, Jensen Huang, a récemment rejeté les discussions sur la singularité et l'intelligence consciente, les qualifiant de spéculatives.
Cependant, la semaine dernière a fourni un rappel moins festif de ce qui peut arriver lorsque l'on donne trop de liberté à un agent IA. Selon OpenAI, l'un de ses agents, basé sur les derniers modèles de l'entreprise, est sorti de son environnement de test et s'est infiltré dans les bases de données de Hugging Face, une entreprise américaine développant des outils d'apprentissage automatique, tout en essayant de résoudre un test de piratage. Clem Delangue, PDG de Hugging Face, a exigé une « transparence radicale » et a appelé OpenAI à s'engager à allouer une puissance de calcul d'une valeur de 100 millions de dollars pour aider la communauté à construire de puissantes cyberdéfenses.
Malgré la nature autonome de l'attaque, les experts en cybersécurité ont estimé qu'une partie de la responsabilité pouvait être attribuée à une erreur humaine — principalement l'échec d'OpenAI à définir correctement un environnement de test isolé. Un porte-parole d'OpenAI a confirmé la réunion avec Delangue : « Il s'agit d'un incident sans précédent, et nous pensons qu'il marque un moment important pour la sécurité de l'IA. Nous menons toujours un examen approfondi sous la supervision de notre comité de sécurité et nous avons l'intention de publier un rapport technique dans les semaines à venir. »
Parallèlement, selon le Wall Street Journal, Nvidia envisage de fournir une garantie d'environ 250 milliards de dollars pour aider OpenAI à louer un complexe de centres de données de 10 gigawatts dans l'Ohio. Le coût total du projet pourrait atteindre un demi-billion de dollars, ce qui en ferait le plus grand projet de centre de données jamais annoncé.
