L'IA a écouté le plan de meurtre — et a alerté le FBI

Darren Zhou, un jeune homme de 25 ans originaire de Floride qui travaillait comme analyste à la banque d'investissement Goldman Sachs, a été arrêté et poursuivi en justice après avoir partagé avec ChatGPT ses plans détaillés pour violer et assassiner son ancienne compagne. OpenAI, l'entreprise qui développe le chatbot, a identifié le danger immédiat et l'a signalé au FBI.

Selon les documents judiciaires, Zhou s'est tourné vers le logiciel d'intelligence artificielle en mars dernier pour évacuer sa frustration après une rupture avec sa compagne des six derniers mois. Il a détaillé au chatbot ses passe-temps, les endroits où elle a l'habitude de passer du temps et sa jalousie envers les hommes qui l'entourent. Très vite, les conversations se sont transformées en menaces concrètes de viol, de meurtre et de suicide.

« Je vais la tuer avant la fin du mois », a écrit Zhou à ChatGPT dans des conversations documentées dans le dossier d'enquête. « Si je ne peux pas l'avoir, alors personne ne l'aura ».

Pas une « explosion émotionnelle » — une planification préméditée

La politique de sécurité d'OpenAI stipule qu'une équipe humaine restreinte est autorisée à examiner les interactions des utilisateurs avec ChatGPT dans les cas où le système détecte une intention de nuire à autrui. Dans les cas graves, l'entreprise transmet les informations aux autorités chargées de l'application de la loi. Bien que les conversations avec le chatbot aient déjà été utilisées comme preuves devant les tribunaux, les cas où l'entreprise elle-même initie un contact avec la police sont assez rares.

En mai, des agents fédéraux ont transmis les journaux de discussion de Zhou (sans les réponses du bot) au bureau du shérif du comté de Palm Beach après que les menaces se soient étendues à la famille de la jeune femme de 21 ans. Un enquêteur qui a examiné la correspondance a déterminé qu'il ne s'agissait pas de « vagues explosions émotionnelles », mais d'un schéma clair de planification et de répétitions en vue de commettre un crime.

Lors d'un contrôle de bien-être effectué par la police, la jeune femme a raconté qu'elle avait rompu avec Zhou en raison de son « comportement imprévisible, jaloux et dominateur ». Depuis la rupture, il la harcelait de manière obsessionnelle par des appels, des SMS et sur les réseaux sociaux, en utilisant des numéros fictifs. De nombreux messages étaient de nature sexuelle, insultante et menaçante.

A évité la prison à la dernière minute

Avec les journaux de l'IA et les SMS menaçants en leur possession, les policiers ont arrêté Zhou. Il a été licencié de son travail, a passé deux jours en détention et a été libéré sous caution de 100 000 dollars.

En juin, il a été inculpé d'une série d'infractions graves — harcèlement avec circonstances aggravantes, menaces écrites de meurtre et utilisation illégale d'un téléphone portable — des crimes passibles d'une peine maximale de 25 ans de prison. Cependant, cette semaine (le 13 août), Zhou a signé un accord de plaidoyer dans lequel il a reconnu tous les chefs d'accusation, mais a évité de purger une peine de prison effective et d'avoir un casier judiciaire lourd.

Le juge Scott Suskauer a noté dans la salle d'audience qu'il avait accepté d'approuver l'accord, qui comprend huit ans de mise à l'épreuve et une série de restrictions strictes, uniquement parce que l'ancienne compagne de Zhou avait approuvé le dispositif. L'avocat de Zhou, Steven Bell, a souligné le casier judiciaire vierge du jeune homme et le fait qu'il ne possédait pas d'armes malgré ses menaces :

« Ce n'est pas une personne violente ou mauvaise. Il a traversé un épisode de santé mentale très difficile, et il s'en sort maintenant extraordinairement bien ».