Révolution dans ChatGPT : la nouvelle version qui change les règles du jeu

La société OpenAI a lancé une version dédiée de ChatGPT pour les adolescents âgés de 13 à 17 ans, dans le cadre des efforts visant à accroître la sécurité dans l'utilisation de l'intelligence artificielle chez les mineurs. La nouvelle version comprend des restrictions sur les contenus sensibles, des outils conçus pour aider à l'apprentissage et un système de contrôle parental.

Selon un rapport de Reuters, ce lancement intervient dans un contexte de critiques croissantes et de poursuites contre les entreprises technologiques concernant l'impact potentiel des outils d'IA sur les adolescents. Dans la nouvelle version, des protections supplémentaires sont activées par défaut autour des sujets sensibles, le système étant conçu pour offrir une expérience plus adaptée à l'âge de l'utilisateur.

Entre autres choses, OpenAI a limité les interactions sur des sujets liés à l'automutilation, aux troubles de l'alimentation, à la violence et aux contenus sexuels ou romantiques. L'entreprise limite également certaines fonctionnalités, notamment le mode vocal et la génération d'images, et encourage les adolescents à faire des pauses lors d'une utilisation prolongée.

Parallèlement, l'accent dans la nouvelle version n'est pas seulement mis sur la restriction des contenus. OpenAI intègre des outils conçus pour faire de ChatGPT une aide à l'apprentissage. Le mode d'apprentissage permet aux élèves de recevoir des conseils étape par étape au lieu d'obtenir une réponse toute faite, ainsi que des quiz, des illustrations visuelles et la possibilité de définir des heures où le mode d'apprentissage sera activé automatiquement.

Les parents bénéficient également de nouveaux outils. Il est possible de lier le compte d'un parent à celui d'un adolescent, de définir des heures de silence pendant lesquelles le service ne peut pas être utilisé et de gérer certains paramètres de sécurité. Dans certains cas où le système identifie une situation pouvant indiquer un danger, le parent peut recevoir une alerte de sécurité. Cependant, le contrôle parental ne permet pas aux parents de lire le contenu des conversations de leurs enfants.

Cette démarche s'inscrit dans une politique plus large d'OpenAI visant à protéger les adolescents. L'entreprise utilise déjà un mécanisme de prédiction de l'âge de l'utilisateur, grâce auquel elle peut identifier les comptes susceptibles d'appartenir à des utilisateurs de moins de 18 ans et leur appliquer une expérience utilisateur adaptée ainsi que des protections supplémentaires.

Outre les protections, OpenAI met l'accent sur l'utilisation de l'IA à des fins d'apprentissage. L'entreprise a déclaré que de nombreux adolescents utilisent ChatGPT pour apprendre, s'informer et développer des compétences, et qu'elle développe donc des outils visant à encourager la pensée critique et la compréhension au lieu de s'appuyer sur des réponses toutes faites.

Parallèlement au lancement de la version, l'entreprise a également publié un guide pour les parents expliquant comment configurer les outils de sécurité, fixer des limites d'utilisation et encourager de bonnes habitudes à la maison. Cette démarche intervient à un moment où les entreprises du secteur de l'IA sont sous une surveillance accrue de la part des parents, des régulateurs et des législateurs.