15 millions de personnes utilisées comme cobayes : les révélations fracassantes sur TikTok

Des documents internes révélés au tribunal dévoilent les coulisses de l'un des scandales les plus graves chez TikTok. En 2021, l'entreprise a décidé d'améliorer son algorithme afin d'empêcher les utilisateurs d'être exposés à une série de vidéos nuisibles, comme du contenu traitant de la dépression ou de l'automutilation. Cependant, un rapport secret révèle que l'entreprise a choisi d'exclure environ 10 % des utilisateurs aux États-Unis — soit environ 15 millions de personnes — de la mise à jour de sécurité, dans le but de tester combien de temps d'écran et de vues le passage à un système plus sûr lui coûterait.

Le prix économique de la sécurité

L'un des utilisateurs sélectionnés au hasard pour ce groupe témoin était Chase Nasca, un adolescent de 16 ans originaire de New York. Peu de temps après avoir été exclu de la mise à jour, Nasca a commencé à recevoir une série de vidéos traitant du suicide au lieu du contenu de divertissement habituel qu'il regardait. En moins d'un mois, il a mis fin à ses jours. Selon le rapport, l'entreprise a continué à surveiller son compte actif même un an après sa mort, alors que ses employés tentaient de formuler une réponse officielle qui ferait preuve d'empathie et minimiserait les dommages à la réputation avant la publication d'une enquête journalistique.

Cette expérience secrète illustre le dilemme économique des réseaux sociaux, où le temps d'écran se traduit directement en argent. Selon les données de la société de recherche Edison, environ 83 % des utilisateurs hebdomadaires de TikTok aux États-Unis âgés de plus de 13 ans ont effectué une action suite à une publicité dans l'application, et 43 % ont même acheté un produit via celle-ci. L'algorithme conçu pour garder les utilisateurs rivés à l'écran est également le moteur économique qui stimule les ventes de l'entreprise, et toute baisse du temps de visionnage nuit directement à ses résultats financiers.

La bataille juridique de la famille

Pour devancer les publications négatives, les employés de l'entreprise ont accéléré le lancement d'un bouton permettant de réinitialiser le flux de recommandations, mis à la disposition de tous les utilisateurs en mars 2023. Cependant, il ne s'agit que d'une solution partielle qui oblige les utilisateurs à naviguer activement dans trois menus différents pour l'activer. TikTok a déclaré en réponse qu'elle s'engageait à assurer la sécurité de ses utilisateurs, mais a refusé de répondre aux questions concernant l'inclusion de mineurs dans l'expérience ou l'accélération du lancement du bouton de réinitialisation.

Actuellement, les parents de Nasca mènent une bataille juridique acharnée contre le géant de la technologie. La plainte en dommages-intérêts qu'ils ont déposée a été rejetée l'année dernière après que TikTok a invoqué la protection de l'article 230 de la loi fédérale, qui exonère les sites Web de toute responsabilité concernant le contenu téléchargé par les utilisateurs. La famille a fait appel de la décision et, parallèlement, le procureur général de l'Arkansas a récemment demandé à interroger le père de l'adolescent dans le cadre d'une poursuite distincte qu'il mène contre l'entreprise.