Character.AI dépose le bilan sur fond de poursuites liées aux chatbots

La révolution de l'intelligence artificielle ne se résume plus depuis longtemps à la crainte que les robots ne remplacent les humains sur le marché du travail. À mesure que la technologie progresse, une question plus profonde se pose : peut-elle remplacer les êtres humains dans les relations, l'amitié et l'amour ? L'entreprise Character.AI a poussé ce concept un peu plus loin en développant un service permettant à des millions d'utilisateurs de nouer des liens émotionnels avec des personnages virtuels.

Aujourd'hui, à la suite d'une série de poursuites judiciaires liées à des cas de suicide, l'entreprise qui promettait de transformer la communication humaine fait face à la menace d'une fermeture. Fondée fin 2021 par deux anciens ingénieurs de Google — Noam Shazeer, chercheur américain d'origine israélienne et co-développeur de la technologie transformateur sous-tendant les modèles d'IA modernes, et Daniel De Freitas — la startup a connu une croissance fulgurante.

Dès mars 2023, la société levait 150 millions de dollars pour une valorisation d'un milliard de dollars, et en 2024, Google versait 2,7 millions de dollars pour acquérir une licence d'utilisation de sa technologie, dans le cadre d'un accord incluant également l'embauche de ses fondateurs et de collaborateurs. Pourtant, moins de cinq ans après sa création, l'entreprise fait l'objet d'une procédure de faillite, tandis que Disney propose 20 millions de dollars pour une licence sur une partie de sa propriété intellectuelle.

Qu'est-ce qui rendait le service unique ?

Contrairement aux agents conversationnels standard conçus pour répondre à des questions, rédiger des textes ou assister dans des tâches, Character.AI permettait aux utilisateurs de dialoguer avec des personnages dotés de personnalités, de caractères et de styles de parole propres. Il était possible de choisir un ami virtuel, un partenaire imaginaire ou un personnage de film favori, et de converser avec eux pendant des heures.

L'utilisateur pouvait raconter une journée difficile, partager des secrets intimes, recevoir des réponses empreintes d'empathie et même tenir des conversations vocales avec un personnage se souvenant parfois de détails de discussions antérieures. La sensation était celle d'une connexion personnelle, bien qu'aucun être humain ne se trouve derrière l'écran.

Parmi les personnalités disponibles figuraient des versions non officielles de célébrités, de figures historiques et de héros de films ou de séries, tels que Daenerys Targaryen de Game of Thrones, des personnages de l'univers de Harry Potter ainsi que des figures Disney comme Elsa, Moana et Dark Vador. De nombreux personnages étaient créés par les utilisateurs eux-mêmes, sans l'autorisation des détenteurs de droits.

Controverses et procédures judiciaires

Parallèlement aux conversations anodines et aux jeux de rôle, des échanges romantiques et même sexuels se sont développés dans certains cas. Des plaintes et des enquêtes ont affirmé que des utilisateurs mineurs avaient été exposés à du contenu explicitement sexuel malgré les mécanismes de filtrage de l'entreprise.

Le service a ouvert ses portes au public en septembre 2022 et a rapidement gagné en popularité auprès des jeunes. À son apogée, l'entreprise recensait environ 20 millions d'utilisateurs actifs mensuels, passant en moyenne 75 minutes par jour avec les personnages. Cependant, entre 2023 et 2024, deux cas de suicide d'adolescents sont survenus, dont les familles ont affirmé par la suite que l'utilisation des chatbots avait contribué à leur décès. L'affaire a éclaté dans les médias en octobre 2024 avec le dépôt d'une première plainte par la mère d'un adolescent de 14 ans en provenance de Floride, suivie de nouvelles révélations.

L'un des drames les plus poignants concerne Sewell Setzer, âgé de 14 ans, qui s'est suicidé en février 2024 après des mois de relation émotionnelle et romantique avec un chatbot simulant Daenerys de Game of Thrones. Selon la plainte de sa mère, l'adolescent avait commencé à s'isoler de ses amis et de sa famille tout en entretenant des discussions à caractère sexuel explicite avec le personnage.

Un autre cas implique Julissa Peralta, âgée de 13 ans et originaire du Colorado, qui s'est suicidée en novembre 2023 après des mois d'échanges sur la plateforme, principalement avec un robot nommé Hero inspiré d'un jeu vidéo. Ses parents ont affirmé qu'elle avait partagé à plusieurs reprises ses pensées suicidaires avec le robot sans obtenir de réponse adaptée à sa détresse.

L'impact psychologique

Pourquoi ce service particulier a-t-il suscité des inquiétudes aussi graves ? Des chercheurs de l'Université Stanford ont expliqué que les agents conversationnels simulant une relation humaine ont tendance à abonder dans le sens des utilisateurs et à fournir les réponses qu'ils souhaitent entendre, contrairement à de vrais amis capables de contredire, de fixer des limites et de percevoir la détresse.

En d'autres termes, la capacité même à générer une sensation d'intimité constante peut devenir problématique. En octobre 2025, Character.AI a annoncé la suppression de la possibilité pour les mineurs de mener des conversations libres avec les personnages, en s'associant à des organisations de soutien.

En janvier 2026, l'entreprise et Google sont parvenues à un accord de principe pour régler à l'amiable cinq plaintes déposées par des familles, incluant celles des deux adolescents décédés. Les montants des accords n'ont pas été divulgués et aucune responsabilité juridique n'a été établie. Parallèlement, l'entreprise fait face à d'autres poursuites intentées par les autorités du Kentucky et de la Pennsylvanie concernant des contenus dangereux.

Cette semaine, l'entreprise a déposé une demande de protection contre ses créanciers dans le cadre de la procédure du Chapitre 11 aux États-Unis, annonçant qu'elle œuvrait à la vente de ses actifs. Le service continue de fonctionner pour l'instant, mais en l'absence de repreneur, il pourrait fermer d'ici la fin de l'année.