L'industrie de l'IA risque de reproduire les erreurs des réseaux sociaux pour la jeunesse

L'industrie de l'intelligence artificielle risque de répéter les erreurs de l'ère des réseaux sociaux, avec des conséquences potentiellement graves pour les enfants et les adolescents, prévient Tom Siegel, ancien responsable de la confiance et de la sécurité chez Google. Siegel soutient que les entreprises d'IA se pressent d'introduire de nouvelles technologies auprès de millions de jeunes utilisateurs sans mécanismes de protection adéquats.

Des risques au-delà du contenu problématique

Selon un rapport de Reuters, Siegel a souligné que les risques vont bien au-delà des contenus problématiques. Il a mis en garde contre des dangers graves, notamment des préjudices potentiels pour les jeunes en détresse et un phénomène de « décharge cognitive », où une dépendance accrue aux systèmes d'IA nuit à la pensée critique. Siegel doute également que les entreprises technologiques puissent s'auto-réguler sans surveillance externe.

« Les entreprises d'IA se pressent d'introduire de nouvelles technologies auprès de millions de jeunes utilisateurs sans mettre en place des mécanismes de protection adéquats », a averti Tom Siegel.

Le rôle du Youth AI Safety Institute

Ces avertissements interviennent alors que Siegel prend ses fonctions de directeur exécutif du Youth AI Safety Institute. Créé par Common Sense Media, cet institut de recherche indépendant évalue l'impact de l'IA sur les mineurs, développe des normes de sécurité et teste des produits. L'institut préconise une approche inspirée des crash-tests automobiles pour évaluer les risques avant toute diffusion à grande échelle.