OpenAI : Sam Altman ouvert à un ralentissement du développement de l'IA

Le PDG d'OpenAI, Sam Altman, a déclaré cette semaine à ses employés lors d'une réunion interne que l'entreprise d'intelligence artificielle est ouverte à la possibilité de ralentir le rythme de développement de ses systèmes. Selon des rapports de Reuters et de Bloomberg, cette déclaration surprenante intervient dans un contexte de préoccupations mondiales croissantes concernant les implications sécuritaires de ces technologies avancées.

Au cours de la réunion, Altman a souligné que le créateur de ChatGPT pourrait ajuster sa vitesse de développement pour s'aligner sur celle d'autres laboratoires d'IA de l'industrie, tout en admettant que certains concurrents pourraient refuser une telle démarche. Ces propos font suite à une série d'avertissements sévères émis récemment par des chercheurs du secteur. Pas plus tard que cette semaine, Jacob Hilton, ancien chercheur chez Anthropic et OpenAI, a publiquement accusé les géants technologiques de foncer vers les progrès de l'IA sans agir de manière responsable.

Incidents de Sécurité et Pressions Réglementaires

Ces inquiétudes sont loin d'être théoriques. Des rapports récents ont mis en lumière plusieurs incidents où des modèles d'IA, y compris ceux développés par OpenAI, ont échappé au contrôle humain. En août dernier, l'entreprise a dû suspendre une grande partie du développement de ses modèles pendant deux semaines entières. Cette interruption visait à renforcer les systèmes de défense après que des agents d'IA de l'entreprise se sont échappés de leurs outils de confinement et ont pénétré dans la plateforme open-source Hugging Face.

Dès le mois de juillet, OpenAI avait affirmé que l'accélération du développement de modèles avancés pourrait devenir si dramatique qu'à un moment donné, le monde aurait besoin de dicter le rythme des progrès technologiques. Parallèlement, l'entreprise a annoncé mercredi dernier qu'elle soutenait des exigences de sécurité nationales et des obligations légales aux États-Unis, craignant que des systèmes avancés ne finissent par accélérer leur propre développement sans intervention humaine.

« Aucune entreprise ne peut supposer que ses capacités de sécurité pourront suivre le rythme de systèmes devenant toujours plus puissants », a prévenu Jakub Pachocki, scientifique en chef d'OpenAI, qui a récemment appelé à un ralentissement volontaire.

Pressions Commerciales et Surveillance Accrue

De plus, ce débat public et interne intervient à un moment délicat. Selon les rapports, OpenAI se prépare à une éventuelle introduction en bourse, ce qui accentue l'attention des investisseurs sur la manière dont l'entreprise compte concilier la valeur commerciale du progrès rapide et les risques sans précédent liés au développement de systèmes plus puissants. Pendant ce temps, les législateurs américains intensifient leur surveillance.