Avec des protections plus strictes : OpenAI a lancé un ChatGPT dédié aux adolescents

La société d'intelligence artificielle OpenAI a lancé aujourd'hui (mardi) une version de ChatGPT adaptée aux mineurs, incluant un contrôle parental et des fonctionnalités de sécurité améliorées, sur fond de critiques croissantes à l'égard des plateformes en ligne en raison des risques liés aux chatbots basés sur l'IA.

Le nouveau mode « ChatGPT pour adolescents » limitera les conversations sur des sujets à haut risque, tels que l'automutilation, la violence et les troubles alimentaires, tout en proposant des outils pédagogiques conçus pour aider les élèves à apprendre au lieu de simplement leur fournir la réponse, a déclaré OpenAI dans un article de blog.

Selon le rapport de Reuters, le mode sera activé automatiquement lorsque le système estimera que l'utilisateur a moins de 18 ans, ou lorsque l'utilisateur déclarera que son âge est compris entre 13 et 17 ans. Les parents pourront définir des « heures calmes », gérer certains paramètres et recevoir des notifications lorsque les adolescents discuteront de sujets sensibles.

Cette décision place le développeur de ChatGPT aux côtés de géants de la technologie comme Meta, qui ont renforcé la protection des adolescents sur leurs plateformes face aux menaces juridiques croissantes et à l'accumulation de preuves des dommages causés à leur santé mentale. La pression sur les entreprises technologiques s'est également accrue à la suite d'une tendance mondiale des pays à promouvoir l'interdiction de l'utilisation des réseaux sociaux chez les adolescents, en raison des craintes concernant les dommages qui leur sont causés.

Pour OpenAI, qui fait déjà face à plusieurs poursuites alléguant que ChatGPT a causé des dommages aux enfants, le défi est encore plus complexe car les chatbots capables de mener des conversations semblables à celles des humains sont de plus en plus perçus comme des personnes avec qui l'on peut partager des secrets et comme une source de soutien émotionnel. Des experts ont averti que le fait de compter sur l'automatisation pour obtenir des conseils en matière de santé mentale comporte des dangers. Les familles de personnes décédées, apparemment après des interactions avec des chatbots, ont critiqué l'absence de mesures de protection suffisantes. Parallèlement, l'utilisation croissante de l'intelligence artificielle par les élèves pour effectuer leurs devoirs soulève des inquiétudes quant aux dommages que la technologie pourrait causer à l'apprentissage.

« Nous pensons que l'intelligence artificielle devrait élargir les opportunités éducatives, et c'est pourquoi nous avons conçu ChatGPT pour les adolescents afin de les soutenir dans les moments en dehors de la classe, où l'aide n'est pas toujours disponible », a déclaré OpenAI.

Le nouveau mode comprend des outils pédagogiques, notamment un mode d'étude pour un apprentissage guidé, des rappels pour les devoirs, des quiz et des illustrations visuelles. Une étude du Pew Research Center publiée plus tôt cette année a révélé que la recherche d'informations et l'obtention d'aide pour les devoirs étaient les utilisations les plus courantes de l'intelligence artificielle par les adolescents aux États-Unis, suivies par les utilisations à des fins de divertissement et de loisirs.

OpenAI, qui exige que les utilisateurs aient au moins 13 ans ou qu'ils respectent l'âge minimum requis dans le pays où ils se trouvent, a déclaré qu'elle utiliserait une combinaison d'auto-déclaration de l'âge, de signaux comportementaux et de signaux liés au compte, ainsi qu'une vérification, pour estimer l'âge de l'utilisateur. L'entreprise a déclaré que lorsqu'elle n'est pas sûre de l'âge de l'utilisateur, elle activera par défaut le paramètre le plus sûr.