Votre psychologue numérique enregistre tout : l'illusion dangereuse de ChatGPT

Depuis l'irruption de l'intelligence artificielle générative dans nos vies, les différentes interfaces ont souvent été présentées comme de « vrais amis » ou des outils de conseil bienveillants. Cependant, derrière le sentiment d'intimité que dégagent les chatbots se cache une sombre réalité : l'absence de confidentialité. Une nouvelle enquête approfondie publiée par l'organisation de recherche DuckDuckGo révèle une image préoccupante : environ un tiers du public partage dans les chatbots des informations personnelles et des secrets intimes qu'ils n'ont pas osé partager même avec des membres de leur famille, des amis ou des médecins. Parmi ceux qui se définissent comme des « passionnés d'IA », ce taux grimpe à 56 %.

Les données montrent que de nombreux utilisateurs ont tendance à consulter l'IA sur des sujets particulièrement sensibles — des problèmes de santé mentale et physique aux dilemmes de la vie conjugale et parentale, en passant par les conseils financiers personnels. Cependant, l'idée selon laquelle la conversation reste « entre l'utilisateur et l'ordinateur » est une illusion totale.

Du clavier directement au tribunal

Alors que lors des recherches Google, les utilisateurs sont habitués à recevoir des publicités ciblées, l'analyse des conversations par l'IA va beaucoup plus loin. Les informations perçues comme « personnelles » deviennent structurellement un enregistrement d'entreprise. Des sociétés comme OpenAI, Google et Anthropic sont légalement tenues de fournir les transcriptions des conversations aux autorités judiciaires et à la police en cas d'ordonnance judiciaire. Les transcriptions de ChatGPT ont déjà été utilisées comme preuves clés dans des procès pour meurtre et dans la réussite d'enquêtes sur des incendies criminels.

Par ailleurs, les grands modèles de langage (LLM) sont capables de « se souvenir » des données. Dans divers cas, les réponses générées par l'IA pour d'autres utilisateurs incluaient des informations sensibles et identifiables provenant des conversations d'utilisateurs précédents. De plus, les employeurs utilisant des comptes professionnels peuvent surveiller intégralement les correspondances. Des entreprises géantes utilisent des systèmes d'« IA émotionnelle » pour scanner les chats professionnels (comme Slack ou Teams) et identifier la « négativité » ou le niveau de loyauté des employés.

« Si vous allez parler à ChatGPT de vos sujets les plus sensibles et qu'il y a ensuite une poursuite judiciaire, nous pourrions être tenus de fournir ces informations », a expliqué le PDG d'OpenAI, Sam Altman.

Le modèle a faim de données

L'un des problèmes centraux soulevés par l'enquête est l'ignorance du public concernant l'utilisation des données. Plus de 50 % des personnes interrogées ne savaient pas (ou n'étaient pas sûres) que leurs conversations servent de matière première pour l'entraînement de la prochaine génération de modèles d'intelligence artificielle. Une étude de l'Université de Stanford a montré que les géants de la technologie — notamment Amazon, Google, Microsoft, Meta et OpenAI — utilisent activement les conversations privées des utilisateurs à des fins d'entraînement.

Pire encore, environ 40 % des personnes interrogées ont indiqué qu'elles n'avaient aucune confiance dans les entreprises technologiques pour protéger leurs informations, et 50 % ne font pas confiance aux autorités gouvernementales sur ce sujet.

4 étapes pour protéger sa vie privée

Pour continuer à utiliser les outils d'IA sans mettre en péril sa vie privée ou professionnelle, il est recommandé d'adopter les règles suivantes :

1. Traitez le chat comme un environnement public : ne saisissez que les données que vous seriez à l'aise de voir publiées sur un panneau d'affichage. Ne révélez pas de détails identifiants, de numéros de carte d'identité, d'informations médicales sensibles ou de secrets commerciaux.

2. Désactivez le partage de données (Opt-Out) : accédez aux paramètres de confidentialité dans des applications comme ChatGPT, Claude ou Gemini et désactivez l'option d'enregistrement de l'historique des conversations et son utilisation à des fins d'entraînement.

3. Exportez et vérifiez les informations stockées à votre sujet : effectuez de temps en temps une exportation de données (sous Export Data) pour voir quelles informations personnelles se sont accumulées à votre sujet sur les serveurs des entreprises.

4. Passez aux modèles locaux : pour les discussions particulièrement sensibles, il est recommandé d'utiliser des programmes fonctionnant localement sur l'ordinateur personnel (tels que Jan.ai, Ollama ou PrivateGPT) qui ne transfèrent pas de données vers des serveurs cloud.