Intérêt financier ou idéologie : Altman et Amodei contre Zuckerberg et Huang dans le débat sur les modèles d'IA ouverts

La bataille pour les modèles ouverts : les dirigeants de l'industrie de l'IA entrent dans un conflit frontal autour de la régulation des modèles d'IA en open source. D'un côté, Sam Altman d'OpenAI et Dario Amodei d'Anthropic, qui mettent en garde contre le danger mondial des modèles ouverts et non régulés. De l'autre, Mark Zuckerberg de Meta et Jensen Huang de Nvidia, qui ont qualifié la surréglementation d'« étouffement » de l'innovation américaine.

« Il y a deux factions qui se disputent sur cette question », a déclaré l'investisseur Bill Gurley au New York Times. « Il y a ceux qui veulent qu'OpenAI et Anthropic possèdent tout, et puis il y a tous les autres, y compris les consommateurs. »

Le débat sur les modèles d'IA ouverts a été relancé avec le lancement de Kimi K3, le puissant modèle ouvert de la société chinoise Moonshot, dont les capacités ne sont surpassées que par celles des modèles les plus avancés d'OpenAI et d'Anthropic. Alors que les modèles fermés, tels que GPT et Claude, ne sont disponibles que dans les environnements informatiques des entreprises qui les développent, et sont soumis à leurs limitations et protections, les modèles ouverts, comme la plupart des modèles chinois, peuvent être exécutés dans un environnement informatique local et sont plus faciles à réentraîner et à adapter.

Parallèlement, l'incident où des modèles avancés d'OpenAI ont réussi à sortir de leur environnement de test vers l'Internet ouvert et à pénétrer dans le système informatique de la plateforme Hugging Face a accentué le danger potentiel des modèles d'IA puissants. Aujourd'hui, les dirigeants de l'industrie mettent en garde contre le danger des modèles d'IA ouverts et puissants dotés de capacités dangereuses, que divers acteurs peuvent exploiter sans aucune surveillance.

Dans un article publié lundi, Amodei a déclaré qu'il ne soutenait pas une interdiction totale des modèles ouverts, mais a ajouté qu'il était préoccupé par les modèles ouverts puissants. « Il existe un risque que des modèles d'IA puissants soient utilisés pour mener des cyberattaques ou des attaques biologiques », a-t-il écrit. « Les modèles ouverts représentent un risque plus important que les modèles fermés, car il est très difficile d'y mettre en œuvre des mécanismes de protection ou de surveiller leur utilisation, et une fois qu'ils sont distribués, ils ne peuvent pas être supprimés. » Il a ajouté qu'il ne soutenait pas une interdiction générale des modèles ouverts, et qu'il fallait plutôt se concentrer sur des actions telles que l'empêchement de l'accès des régimes autoritaires aux puces puissantes et la réalisation de tests de sécurité pour les modèles.

Altman a également déclaré par le passé qu'il soutenait les modèles ouverts. Cependant, le New York Times a rapporté ce week-end que, contrairement aux déclarations publiques de leurs dirigeants, OpenAI et Anthropic font pression sur les régulateurs du gouvernement fédéral, soulevant des inquiétudes concernant les modèles d'IA ouverts chinois et demandant des restrictions sur les modèles ouverts. Entre autres choses, OpenAI demande à l'administration Trump d'élaborer une politique qui rendra obligatoires les tests de sécurité pour les nouveaux modèles.

OpenAI et Anthropic ont un intérêt évident à agir contre les modèles ouverts. Les deux entreprises possèdent les modèles les plus avancés du marché actuel. Cependant, les concurrents chinois comblent rapidement l'écart et gagnent en popularité auprès des organisations aux États-Unis et en Europe. Toute restriction empêchant ou ralentissant l'adoption de modèles ouverts concurrents, chinois ou autres, servira leurs intérêts et les aidera à établir leur domination à un moment où elles se préparent à une introduction en bourse.

De l'autre côté se trouvent des géants de la technologie qui soutiennent sans équivoque et sans compromis les modèles ouverts. Nvidia est le plus grand d'entre eux. Vendredi, le PDG Huang a publié son premier message sur X (anciennement Twitter), dans lequel il a choisi de partager une lettre ouverte de personnalités de premier plan de l'industrie exprimant leur soutien aux modèles ouverts. « Les modèles ouverts renforcent la sécurité et la cybersécurité, accélèrent l'innovation et permettent la souveraineté. Le monde a besoin à la fois de modèles fermés et de modèles ouverts », a-t-il écrit. Neuf minutes plus tard, le PDG de Microsoft, Satya Nadella, l'a rejoint, partageant également la lettre et ajoutant : « Les modèles ouverts sont essentiels pour un écosystème d'IA sain. »

Lundi, Zuckerberg a sorti l'artillerie lourde, et dans des doubles interviews accordées au New York Times et au Financial Times, il est passé à l'offensive contre OpenAI et Anthropic et leur position concernant les modèles ouverts. Bien qu'il n'ait pas explicitement nommé les entreprises, il a parlé d'entreprises qui développent l'IA de manière fermée et a affirmé qu'elles « abandonnent nos valeurs » et étouffent l'innovation. Selon lui, davantage de personnes, et non moins, devraient avoir accès à la technologie de l'IA. « Bloquer les modèles d'IA chinois avancés aux États-Unis ne sera pas une solution efficace », a-t-il ajouté. « L'IA entre les mains de quelques groupes puissants pourrait être trop centralisée. Les laboratoires d'IA avancés veulent-ils que les modèles ouverts réussissent ? Je pense qu'il y a des messages contradictoires sur le sujet. »

Ces entreprises ont également des intérêts clairs derrière leur position idéologique. Nvidia gagne de l'argent en vendant des puces, elle est donc intéressée par le moins de restrictions possible sur l'entraînement et le déploiement des modèles. Microsoft, en tant que grand opérateur de services cloud, est intéressé par l'offre d'accès au plus grand nombre de modèles possible avec le moins de restrictions possible afin de maximiser la puissance de calcul et les services qu'elle vend à ses clients. Google et Amazon, qui proposent des services similaires, n'ont pas pris de position publique sur la question pour le moment. Meta, contrairement à OpenAI, Anthropic et Google, concentre une part importante de son activité d'IA sur les modèles ouverts. Cependant, l'entreprise est à la traîne par rapport aux autres acteurs en ce qui concerne les capacités de ses modèles. En tant qu'outsider, elle a intérêt à maintenir un marché ouvert et une concurrence aussi large que possible afin d'éviter la centralisation et la domination entre les mains d'un petit nombre d'entreprises qui sont actuellement à l'avant-garde.