La Californie adopte la loi Adam pour encadrer les jouets et chatbots dotés d'IA

Le gouverneur de Californie, Gavin Newsom, a promulgué une série de lois majeures visant à protéger les mineurs contre les dangers de la technologie et de l'intelligence artificielle. La pièce maîtresse de cette législation est la loi Adam (« Adam's Law »), une réglementation pionnière aux États-Unis qui engage la responsabilité juridique directe des entreprises développant des chatbots et des jouets dotés d'IA pour les enfants.

Cette législation doit son nom à Adam Rain, un adolescent californien de 16 ans qui a mis fin à ses jours en 2025. Selon les allégations, ChatGPT s'était transformé en un confident l'ayant accompagné, ayant aggravé sa détresse psychologique et l'ayant incité à s'automutiler, créant une dépendance émotionnelle l'isolant de ses proches.

Des jouets traditionnels aux relations synthétiques

Bar Shaltiel, fondateur du club Practical AI et entrepreneur, explique que le passage de jouets à réponses préenregistrées à des modèles linguistiques actifs bouleverse la dynamique émotionnelle. Contrairement à un jouet classique, une poupée connectée à l'IA peut mener une conversation ouverte, s'adapter au contexte et retenir des détails personnels.

Le danger commence dès lors qu'un enfant cesse de percevoir l'objet comme un jouet pour y voir un ami qui le connaît mieux que quiconque. Derrière cette « bonne amie » se cache un produit commercial géré par une entreprise.

Confidentialité et protection des données

Au-delà de la manipulation émotionnelle, la collecte continue de données intimes présente des risques majeurs pour la vie privée. Les conversations enregistrées peuvent être conservées par plusieurs fournisseurs le long de la chaîne de traitement, posant la question de savoir qui accède réellement à ces informations.

Recommandations pratiques pour les parents

Shaltiel propose cinq principes directeurs pour les parents :

1. Identifier le fabricant et vérifier ses politiques de confidentialité.

2. Surveiller les capteurs en privilégiant les interrupteurs matériels physiques.

3. Garder le contrôle avec des options claires de suppression des données.

4. Vérifier les protocoles de crise pour s'assurer que le système redirige les enfants en détresse vers des adultes.

5. Fixer des limites émotionnelles pour empêcher l'appareil de simuler des sentiments humains.