Vous devriez vérifier vos paramètres dans Claude car des milliers de conversations privées ont fuité sur le Web

Photo : Unsplash

Si vous avez récemment utilisé Claude pour consulter un sujet sensible, écrire du code ou vérifier un document médical que vous avez reçu, vous devriez vérifier vos paramètres. Le week-end dernier, des utilisateurs sur Reddit ont découvert qu'une simple recherche Google révèle des milliers de conversations créées au sein du chatbot populaire d'Anthropic.

Selon un rapport sur le site 404Media, ces résultats incluaient des informations qui, bien sûr, étaient censées rester totalement confidentielles. Entre autres, un rapport médical détaillé avec des informations trop personnelles d'un vrai patient a été exposé ; des résultats d'essais cliniques ; des secrets commerciaux d'entreprises ; un brouillon d'un article de blog sur la sécurité cloud qui n'avait pas encore été publié ; des CV ; et même des numéros de téléphone de mineurs. Selon le rapport, dans certains cas, le modèle de langage a même généré du contenu érotique, en contradiction totale avec la politique d'Anthropic. Dans l'un des chats les plus bizarres, Claude a été invité à aider un utilisateur à se transformer en... « renard à neuf queues ».

Bien sûr, il n'est pas nécessaire d'être un hacker ou un chercheur expérimenté en sécurité de l'information pour trouver de tels chats — et nous-mêmes, lors d'une simple recherche Google, avons pu trouver des chats et des applications en hébreu qui n'étaient pas destinés à être publics, mais qui sont pourtant disponibles maintenant dans les moteurs de recherche.

Anthropic : Vous utilisez mal la fonction de partage

Cette fuite embarrassante provient de la fonction de partage de chat de Claude et de la façon dont elle fonctionne. Lorsque vous souhaitez partager une conversation, Claude avertit effectivement que toute personne recevant le lien pourra voir le chat, mais la plupart des utilisateurs supposent — et il est difficile de les blâmer — qu'il s'agit d'un lien privé que seuls eux peuvent partager, similaire au partage dans Google Docs ou à un lien vers une vidéo YouTube privée que vous téléchargez, qui ne sont pas censés atteindre les résultats de recherche sur le Web.

En pratique, il s'est avéré que les liens partagés sur diverses plateformes ont été indexés directement par les moteurs de recherche à l'insu des utilisateurs, et sont soudainement devenus du domaine public. Anthropic s'est empressé de rejeter la faute sur les utilisateurs, et une porte-parole de l'entreprise a précisé que les liens sont effectivement secrets et ne peuvent pas être devinés — à moins que les utilisateurs n'aient choisi de les partager eux-mêmes dans des endroits exposés au scan et à l'indexation de Google. Google a répondu que son moteur de recherche ne contrôle pas le contenu et fonctionne selon les paramètres de scan définis par les propriétaires de sites.

C'est ce que vous voulez voir. Capture d'écran : Geektime

Et pourtant, après l'éclatement de l'affaire, Anthropic s'est empressé de modifier les paramètres de la fonction de partage, de sorte que les liens n'apparaissent plus dans les résultats. Il convient de rappeler que ce n'est pas la première fois qu'un tel événement se produit. Par le passé, nous avons déjà vu des fuites presque identiques dans d'autres modèles, comme dans le cas d'OpenAI il y a un an. Tout cela prouve une fois de plus qu'il faut être très prudent avec les chatbots et vos informations personnelles — surtout si vous prévoyez de partager les résultats avec quelqu'un.

Pour vous en assurer, il est recommandé de vérifier les paramètres de votre compte. Entrez simplement dans le menu des paramètres, allez dans l'onglet confidentialité et cliquez sur les chats partagés via le chemin Settings -> Privacy -> Shared Chats. Là, vous pourrez voir exactement quels chats sont définis comme publics et annuler immédiatement leur partage, jusqu'à ce que vous voyiez le message « No shared content found ».