Rebecca a accepté une transcription par IA - et a été étiquetée comme consommatrice de drogues : « J'étais sous le choc »
Rebecca Green a accepté que son rendez-vous médical soit enregistré par IA pour gagner du temps, avant de découvrir avec stupeur qu'une lettre adressée à son médecin de famille l'accusait faussement de consommer des champignons hallucinogènes.
Lorsque Rebecca Green est arrivée à son premier rendez-vous chez une urologue, on lui a demandé si elle acceptait que la rencontre soit transcrite par intelligence artificielle (IA). Elle a accepté immédiatement, sans hésitation. Cette décision lui a causé un préjudice grave, lorsque l'IA a inventé une affirmation totalement fausse selon laquelle elle consomme des drogues illégales.
Rebecca a raconté que la décision d'autoriser la transcription avait été prise volontairement pour ne pas faire perdre de temps au médecin. « Je ne voulais pas être cette patiente agaçante qui lui prend trop de temps », a-t-elle rappelé dans une interview accordée à ABC Australie.
« J'étais stupéfaite et en larmes », a raconté Green. « Le logiciel a inventé que je prends des champignons hallucinogènes. Je n'ai jamais pris de champignons de ma vie ». Green n'a découvert la grave erreur qu'en mars, après une opération pour des calculs rénaux, lorsqu'elle a lu la lettre chirurgicale que l'urologue avait envoyée à son médecin de famille. La lettre indiquait que Green consomme des micro-doses de champignons hallucinogènes, ce qui pourrait être la cause de saignements précoces autour de ses reins.
Pour Green, la crainte des conséquences de cette inscription erronée était immédiate, car elle percevait à l'époque des indemnités en vertu de la loi sur les accidents du travail. Elle craignait que toute mention de drogues illégales ne nuise à son dossier d'indemnisation. « Cette lettre, qui dit quelque chose qui n'est basé sur aucune preuve, mais qui pourrait avoir d'énormes conséquences pour moi, était assez effrayante », a-t-elle déclaré. « Cela m'a semblé très impersonnel. Je n'ai pas reçu le niveau de soins et de proximité que j'espérais dans une situation aussi délicate ».
Après que Green a déposé une plainte, l'urologue a envoyé une lettre d'excuses : « Nous prenons la précision de la documentation très au sérieux et nous regrettons beaucoup que cela soit arrivé ». Le médecin a noté qu'elle n'avait pas pu déterminer comment l'affirmation sur les champignons avait été insérée, mais qu'il semblait s'agir d'une erreur lors du processus de transcription. L'urologue a corrigé le dossier médical et a promis de réexaminer l'utilisation de l'IA dans son cabinet, mais s'est abstenue de répondre à d'autres questions.
« Lorsque vous vérifiez cette lettre, vous devriez être en mesure de la corriger avant qu'elle ne soit envoyée », a déclaré Green avec colère. « Pourquoi n'êtes-vous pas synchronisée avec chacun de vos patients ? ». Green a admis qu'elle se sentait chanceuse d'avoir réussi à détecter l'erreur à temps, mais elle met en garde les autres patients : « J'aime l'IA, mais la composante essentielle est l'être humain. En fin de compte, ce qui s'est passé ici, c'est principalement un manque d'implication humaine ».
Un phénomène en expansion : quand l'IA « diffame » au cabinet médical
L'histoire de Green n'est pas un cas isolé. Un nouveau rapport de l'organisation de protection de la vie privée Digital Rights Watch (DRW) met en garde contre les dangers de l'utilisation des rédacteurs médicaux par IA, en raison de leur tendance à « halluciner » des symptômes et des maladies. Parmi les exemples révélés : un cas où l'IA a confondu le sein droit et le sein gauche lors d'un diagnostic de cancer du sein, et un cas où il a été déterminé par erreur qu'un patient souffrait d'épilepsie.
Bien que les régulateurs précisent qu'il est obligatoire pour les médecins de vérifier chaque résultat de l'IA avant de l'envoyer, les experts soulignent que de nombreux médecins développent une « confiance excessive » dans la technologie après quelques semaines d'utilisation et cessent de critiquer les résumés.
De nombreux médecins ont noté que l'IA allège considérablement la charge bureaucratique. Cependant, les experts recommandent aux patients de ne pas hésiter, de poser des questions pointues sur l'utilisation de l'IA, de s'assurer que le médecin a bien examiné le dossier et de savoir qu'ils ont le plein droit de refuser l'enregistrement.
