Meli et Liel, vous m'entendez ? Les mots qui pousseront l'IA à vous dénoncer aux autorités

L'histoire de Meli et Liel Yahalomi, qui ont disparu pendant des jours et ont mobilisé les autorités et les membres de leur famille, soulève une question particulièrement intrigante à l'ère de l'intelligence artificielle : dans quelle mesure une conversation avec l'IA reste-t-elle vraiment privée, et existe-t-il des situations où ce qui y est écrit pourrait parvenir aux autorités ?

Au cours de l'enquête, les enquêteurs ont réussi à retracer certaines des conversations que les deux jeunes femmes ont eues avec Gemini de Google, bien qu'une partie des recherches ait été supprimée. Les questions qu'elles ont posées à l'intelligence artificielle portaient, entre autres, sur les moyens de disparaître et de rendre leur localisation difficile, et ces informations ont aidé les enquêteurs à retracer leur plan.

Cependant, cette histoire ne concerne pas seulement Gemini. Des millions de personnes ont quotidiennement des conversations personnelles avec GPT, Claude, Copilot et d'autres outils d'IA, et partagent parfois avec eux des informations qu'elles ne confieraient à presque personne. Mais ces services disposent de mécanismes de sécurité, de règles d'utilisation et de politiques concernant la transmission d'informations aux autorités.

Alors, qu'est-ce qui pourrait allumer un voyant rouge ?

En tête de liste se trouvent les menaces réelles de nuire à une autre personne, l'intention de commettre un acte violent ou une planification indiquant un danger imminent. Dans GPT, par exemple, OpenAI indique explicitement que lorsque ses systèmes identifient un utilisateur qui prévoit de nuire à autrui, la conversation peut être transférée vers un parcours de vérification dédié. Si des examinateurs humains concluent qu'il existe une menace immédiate de préjudice physique grave pour une autre personne, l'entreprise peut transmettre le dossier aux forces de l'ordre.

En d'autres termes, les phrases exprimant une menace concrète, accompagnées de détails sur une cible, un moment ou un mode opératoire, peuvent prendre une signification totalement différente d'une question générale ou théorique. Plus les éléments indiquent clairement un danger réel, plus ils sont susceptibles d'activer les mécanismes de sécurité du service.

Claude, Gemini et Copilot disposent également de mécanismes conçus pour identifier et bloquer les utilisations dangereuses ou interdites. Anthropic, qui exploite Claude, précise même que dans les cas où une vérification est nécessaire pour faire respecter les règles d'utilisation, des membres du personnel dédiés peuvent avoir accès à la conversation.

Google interdit l'utilisation de Gemini pour des activités dangereuses ou illégales, et Microsoft utilise également des mécanismes de sécurité et de conservation des données qui varient en fonction du produit et du type de compte.

Il existe un autre moyen par lequel les conversations peuvent parvenir aux autorités : une enquête en cours. Les grandes entreprises du secteur de l'intelligence artificielle reçoivent des demandes officielles des forces de l'ordre pour obtenir des informations sur les utilisateurs, et dans les cas où la demande répond aux exigences légales, elles peuvent fournir les informations en leur possession. OpenAI, Google, Anthropic et Microsoft publient toutes des procédures pour traiter ces demandes.

Dans les situations d'urgence, lorsqu'il existe une crainte de mort ou de préjudice physique grave, certaines entreprises activent également des canaux spéciaux pour traiter les demandes urgentes des forces de l'ordre. Et c'est exactement ce qu'il faut garder à l'esprit avant de partager des informations particulièrement sensibles avec l'IA : la conversation peut sembler privée, mais elle se déroule au sein d'un système qui stocke et traite les données, active des mécanismes de sécurité et est soumis aux exigences de la loi.