Un chercheur d'Anthropic démissionne face aux risques d'une superintelligence

Un chercheur d'Anthropic a annoncé sa démission de l'industrie technologique, prévenant que les entreprises d'intelligence artificielle parient avec la vie humaine dans une course irresponsable vers des systèmes incontrôlables. Jacob Coxon, chercheur britannique de 27 ans, a déclaré que les développeurs craignent en privé qu'une intelligence artificielle avancée puisse causer des dommages catastrophiques d'ici la fin de la décennie.

Démission et Parcours chez OpenAI et Anthropic

Avant de rejoindre Anthropic, Coxon a travaillé chez OpenAI, le créateur de ChatGPT. Spécialiste de la recherche en pré-entraînement consistant à alimenter de nouveaux modèles d'IA en données massives, il a décidé de démissionner car il refuse de participer à une course généralisée vers une intelligence artificielle auto-améliorée. Coxon a exprimé sa profonde inquiétude quant au fait que de tels systèmes puissent échapper à tout contrôle et menacer l'humanité.

« J'ai démissionné d'Anthropic aujourd'hui. J'ai passé ces trois dernières années à faire de la recherche en pré-entraînement chez OpenAI et chez Anthropic. Aucune des deux entreprises n'agit de manière responsable. »

Crainte de l'Industrie et Inquiétudes Privées

Coxon a exhorté le public à ne pas sous-estimer cette technologie, soulignant que des systèmes capables de surpasser l'intelligence humaine, d'orchestrer des cyberattaques et de perturber les industries du jour au lendemain approchent rapidement. Il a souligné que la peur exprimée par les développeurs est authentique et non une tactique marketing.

• Les développeurs croient sincèrement que l'IA pourrait s'avérer fatale pour l'humanité avant la fin de la décennie.

• Les dirigeants et chercheurs seniors modèrent souvent leurs déclarations publiques pour paraître mesurés, mais expriment une peur profonde en privé.

• Anthropic reconnaît les dangers, mais reste enfermée dans une course pour atteindre la superintelligence en premier par conviction que ses concurrents agiraient de manière encore plus imprudente.

Le PDG d'Anthropic, Dario Amodei, ainsi que d'autres hauts dirigeants ont averti à plusieurs reprises des risques posés par des modèles d'IA incontrôlables et ont appelé l'industrie à ralentir son rythme de développement.