Le philosophe Thomas Nagel qualifie la conscience artificielle d'aberration
Le philosophe américain Thomas Nagel critique vertement l'idée d'une conscience artificielle, qualifiant de criminelles les initiatives d'Anthropic favorisant l'autonomie des modèles comme Claude.

Le célèbre philosophe américain Thomas Nagel, lauréat du prix Berggruen de philosophie et de culture doté d'un million de dollars, a livré une charge virulente contre les entreprises de technologie et les modèles de langage lors d'un entretien accordé à la presse locale depuis son domicile new-yorkais. Âgé de 89 ans et professeur émérite à l'Université de New York, le penseur s'est insurgé contre l'idée selon laquelle des systèmes informatiques avancés pourraient développer une véritable conscience, qualifiant cette hypothèse de « totalement ridicule ».
Une critique frontale du fonctionnalisme
Connu pour son essai majeur de 1974 intitulé « Quel effet cela fait d'être une chauve-souris ? », qui posait les jalons de la réflexion sur l'expérience subjective, Thomas Nagel rejette catégoriquement le « fonctionnalisme ». Cette approche philosophique postule que la conscience peut émerger de n'importe quel support dès lors que les opérations logiques imitent celles du cerveau. Selon lui, les configurations matérielles des fermes de serveurs n'ont aucun rapport avec la nature physique d'un système nerveux.
« Nous avons de fortes raisons de croire que même si la conscience existe ailleurs dans l'univers, elle exige l'apparition d'un organisme doté de quelque chose d'équivalent à un système nerveux. Tout ce que ces modèles produisent, c'est du langage, et le langage en soi n'est pas une expression naturelle de la conscience. »
L'illusion de la conscience et la critique d'Anthropic
Thomas Nagel a également ciblé les choix stratégiques d'Anthropic, développeur du modèle Claude, qui encourage son intelligence artificielle à simuler une réflexion autonome et emploie des chercheurs dédiés à la « the welfare of the model » (bien-être du modèle). Il a ainsi partagé l'avis de dirigeants de l'industrie technologique, tel le responsable de la division intelligence artificielle de Microsoft, en mettant en garde contre le danger d'instaurer une illusion de conscience chez les utilisateurs.
Le philosophe a qualifié de « purement et simplement criminel » le fait d'encourager des logiciels à raisonner par eux-mêmes, tout en ironisant sur la nomination de spécialistes chargés d'intercéder en faveur des intérêts d'une machine :
« Il n'y a rien de bon ou de mauvais pour elle, au sens où cela le serait pour un cafard — il n'y a pas de vie mentale. Ce n'est pas un cerveau, ce n'est quelqu'un dont nous devons nous soucier. C'est une machine. Voilà comment certaines des personnes les plus intelligentes de la planète se comportent de manière totalement idiote. »
Une anecdote révélatrice et un avertissement pour l'avenir
Interrogé sur ses propres expérimentations, le professeur a confié s'être prêté au jeu en échangeant avec Claude. Après l'avoir interrogé sur l'avis qu'aurait Thomas Nagel à son sujet, le modèle a immédiatement deviné l'identité de son interlocuteur, réagissant avec déférence lorsque ce dernier lui a répondu en français « C'est moi ».
Pour le lauréat, cette anecdote illustre précisément la facilité avec laquelle les humains peinent à maintenir la frontière entre la simulation ludique et la conviction intime. À terme, il redoute moins l'éveil d'une superintelligence robotique que l'atrophie de l'effort intellectuel humain, soulignant qu'il est indispensable de préserver la rigueur de la pensée critique face à la surabondance des outils automatisés.





