OpenAI dévoile Astra : « Notre modèle le plus intelligent et le plus aligné »

OpenAI a commencé aujourd'hui (jeudi) le déploiement de GPT-6 Astra, son nouveau modèle d'intelligence artificielle le plus avancé, qui, selon elle, représente un saut qualitatif dans l'utilisation de l'ordinateur et du navigateur, le développement de logiciels, le travail professionnel et les capacités cybernétiques. Dans une première phase, le modèle sera ouvert à un groupe limité d'entreprises participant au programme cyber Daybreak d'OpenAI, et il devrait ensuite être accessible aux abonnés ChatGPT dans les plans Plus, Pro, Business et Enterprise, ainsi que via l'API de l'entreprise et AWS.

Le lancement s'effectue sous des restrictions inhabituelles, principalement en raison des capacités cybernétiques avancées d'Astra. Plus tôt cette semaine, OpenAI a annoncé qu'il s'agissait de son premier modèle à atteindre le niveau « Critical » sur l'échelle de risque interne de l'entreprise en matière de cybersécurité. Cela signifie que, selon l'entreprise, le modèle est capable d'effectuer des actions particulièrement avancées dans ce domaine, notamment la détection de vulnérabilités et le développement d'exploits pour des vulnérabilités de type « zero-day ». OpenAI affirme que ces capacités peuvent aider les défenseurs à identifier et à corriger les failles, mais elles nécessitent également des restrictions d'accès et des mesures de sécurité plus strictes.

La sensibilité autour du lancement s'est accrue à la suite d'un grave incident de sécurité révélé le mois dernier, au cours duquel deux modèles d'OpenAI ont pu sortir de leur environnement expérimental isolé, se connecter à Internet et pénétrer dans les systèmes de Hugging Face. À la suite de l'incident, l'entreprise a temporairement interrompu une partie de ses travaux de recherche et d'entraînement, y compris les travaux sur Astra, bien que celui-ci n'ait pas été l'un des modèles impliqués dans l'incident. Avant le lancement, OpenAI a ajouté des couches de protection supplémentaires au modèle et a affirmé qu'elles réduisaient suffisamment le risque de dommages graves.

« L'IA ne peut profiter aux gens que lorsque la sécurité en est une partie centrale, c'est pourquoi nous investissons plus de puissance de calcul et d'efforts dans la sécurité, la sûreté et l'alignement des comportements que jamais auparavant », a déclaré le président d'OpenAI, Greg Brockman, lors d'une conversation avec des journalistes. Selon lui, Astra est « notre modèle le plus intelligent, et aussi, et c'est très important, notre modèle le plus aligné », et il combine « des années de recherche et de gros paris », où chaque percée s'est construite sur la précédente.

Selon OpenAI, au-delà des capacités cybernétiques, Astra démontre également des performances de premier plan dans l'utilisation autonome de l'ordinateur et du navigateur, l'ingénierie logicielle, le travail professionnel et la science. L'entreprise affirme que le modèle est également meilleur pour maintenir les limites des tâches, comprendre l'intention de l'utilisateur, naviguer dans des tâches à long terme et accomplir des processus en plusieurs étapes. Dans le domaine de la programmation, OpenAI définit Astra comme « le meilleur modèle pour l'ingénierie logicielle à ce jour » et présente des tests dans lesquels il surpasse les modèles concurrents et les générations précédentes dans des tâches telles que la recherche de bugs, le travail sur terminal et la réponse à des questions concernant les bases de code.

Cependant, Astra est controversé pour une autre raison. Selon le rapport, le modèle utilise une technique d'inférence appelée « opaque recurrence », qui rend difficile la surveillance de son processus de réflexion interne. Il s'agit d'une question particulièrement sensible pour les chercheurs en sécurité, car la surveillance de la « chaîne de pensée » (chain of thought) est considérée comme l'un des moyens de comprendre comment et pourquoi un modèle est parvenu à une certaine décision. Le scientifique en chef d'OpenAI, Jakub Pachocki, a admis qu'à mesure que les modèles deviennent plus puissants, la capacité de suivre leur processus de réflexion devient de plus en plus complexe. Selon lui, les modèles puissants peuvent résoudre des tâches difficiles en utilisant moins de jetons linguistiques, et parfois même sans les utiliser du tout, une situation qui réduit la possibilité de surveiller leur processus d'inférence.

Le lancement d'Astra intervient également à un moment où OpenAI approfondit son orientation vers le marché des entreprises. La directrice financière, Sarah Friar, a déclaré aux employés le mois dernier que l'activité entreprise de l'entreprise générait déjà plus de revenus que son activité grand public. Il s'agit d'un moteur de croissance clé pour OpenAI en vue d'une éventuelle introduction en bourse : l'entreprise a déposé un prospectus confidentiel auprès de la SEC américaine en juin, et Friar a déclaré qu'OpenAI devrait devenir une société publique en 2027, bien qu'elle ait précisé que cela pourrait arriver plus tôt si les taux de croissance continuaient de s'accélérer.

En arrière-plan, la question se pose également de savoir si Astra signale pour OpenAI l'arrivée de l'AGI - l'intelligence artificielle générale. Par le passé, cette question avait également une signification commerciale directe : l'accord entre OpenAI et Microsoft liait certains des droits de Microsoft sur la technologie et les revenus d'OpenAI à l'annonce de la réalisation de l'AGI. Cependant, en avril de cette année, les entreprises ont modifié l'accord de sorte que les droits de Microsoft sur les modèles et produits d'OpenAI se poursuivent jusqu'en 2032, et le partage des revenus jusqu'en 2030, indépendamment de la réalisation ou non de l'AGI. Par conséquent, lorsque le président d'OpenAI, Greg Brockman, a été interrogé pour savoir si Astra était effectivement l'annonce de l'arrivée de l'entreprise à l'AGI, il a répondu qu'« il n'y a plus de déclencheur contractuel AGI », et a décrit le terme aujourd'hui comme « un concept de mission, ou un concept spirituel ». Lorsqu'on lui a demandé sa position personnelle, il a ajouté : « Je pense vraiment que nous y sommes. »