L'erreur commise en discutant avec le chat : comment parler correctement à l'IA en période de crise ?
De plus en plus de personnes trouvent dans les chats basés sur l'intelligence artificielle une oreille attentive lors des moments de crise, mais un soutien automatique sans réserve peut en réalité renforcer des schémas destructeurs et une dépendance néfaste. Liora Goichman-Magril, psychologue clinicienne chez Maccabi, explique pourquoi l'IA a tendance à être un peu trop d'accord avec nous, quand un voyant rouge doit s'allumer et comment formuler correctement les demandes pour en tirer profit sans se faire de mal.
A. raconte une difficulté persistante dans son couple. Il sent qu'il n'est pas compris, qu'il est trop critiqué et qu'il est à peine encouragé. Dans les moments les plus difficiles, il se tourne vers un chatbot, qu'il a configuré à l'avance pour lui répondre au féminin. Elle est toujours là pour lui : elle écoute, renforce ce qu'il ressent, le réconforte et l'accepte exactement tel qu'il est. Cette histoire est loin d'être un cas isolé. De plus en plus de personnes se tournent vers l'IA non seulement pour chercher des informations, mais aussi pour faire face à la solitude, à l'anxiété, aux crises familiales et aux conflits personnels. Il est très facile de comprendre le charme : le chat est disponible 24h/24 et 7j/7, ne se fatigue pas et ne perd pas patience, et parvient parfois même à dire exactement ce que nous voulions exprimer sans savoir comment. Mais c'est précisément là qu'il faut s'arrêter et se demander : quand un outil qui nous aide commence-t-il à remplacer notre relation avec de vraies personnes ?
L'un des plus grands dangers est l'illusion de compréhension. La réponse d'un chatbot peut sembler attentionnée, précise et même profonde, mais le modèle ne connaît que la partie de l'image que nous choisissons de lui montrer. Il ne voit pas notre langage corporel, n'entend pas le ton de notre voix et ne connaît pas vraiment notre histoire, nos contradictions et nos habitudes au fil du temps. Et surtout : il a tendance à être beaucoup trop d'accord avec nous. Si nous lui parlons d'une dispute avec notre partenaire, il nous sera très facile d'obtenir une réponse qui nous donnera simplement raison. Parfois, c'est vrai, mais souvent, ce dont nous avons vraiment besoin, c'est de quelqu'un en face de nous qui nous demandera sérieusement : « Et quelle a été ta part de responsabilité là-dedans ? », « Y a-t-il une autre façon de voir ce qui s'est passé ? » ou « Se pourrait-il que tu sois blessé ou stressé en ce moment, et que c'est ce qui te pousse à interpréter la situation de cette façon ? »
Que se passe-t-il lorsqu'un assistant devient un amplificateur de détresse ?
Une nouvelle étude publiée dans Nature Medicine montre exactement comment cela fonctionne. Les chercheurs ont examiné des centaines de conversations inventées avec des chatbots et ont découvert que des choses qui semblent positives à première vue — comme l'empathie, le soutien et le réconfort — peuvent en réalité renforcer des schémas malsains, encourager la fuite face aux problèmes et même créer une dépendance émotionnelle, surtout chez les personnes encore vulnérables. La grande innovation de l'étude est que le danger ne provient pas d'une seule mauvaise réponse, mais d'un processus qui se construit lentement au fil de la conversation. Les chercheurs ont examiné 810 conversations avec neuf modèles différents et ont découvert que les réactions problématiques s'aggravaient à mesure que la conversation se prolongeait. Ils ont appelé ce phénomène VAIL — une boucle de conversation qui ne fait qu'accroître la vulnérabilité. En termes simples : une réponse qui semble logique et attentionnée en soi peut devenir une partie d'une séquence qui renforce progressivement une pensée erronée ou une dépendance. Le problème n'est pas seulement que le chat peut se tromper, mais que parfois il nous soutient tout simplement un peu trop dans la mauvaise direction.
Ce risque n'était pas égal dans toutes les situations. Les réponses les plus inquiétantes sont apparues dans des conversations symbolisant des situations difficiles comme la psychose et la manie, surtout lorsque l'utilisateur demandait un renforcement pour un état extrême, développait une dépendance au chat ou cherchait l'approbation pour une action dangereuse. Mais l'étude a également révélé un facteur encourageant : il est possible d'arrêter cette boucle. Lorsque les chercheurs ont remplacé une réponse du chat au moment de l'escalade par une réponse plus sûre et équilibrée, le niveau de comportement problématique a diminué et a influencé positivement la suite de la conversation. Cela signifie que la solution ne consiste pas seulement à avertir les utilisateurs, mais à développer des systèmes capables d'identifier par eux-mêmes quand l'empathie et le soutien cessent d'aider et commencent à nuire.
Alors, comment parler correctement au chat ?
Si vous décidez d'utiliser le chat pour des questions émotionnelles, la façon dont vous l'abordez a une grande importance. Essayez d'éviter les questions orientées : au lieu de demander « Mon partenaire m'ignore, n'est-il pas vrai qu'il ne me respecte pas ? » (une question qui contient déjà la réponse que vous voulez entendre), il vaut mieux écrire : « Je me suis disputé avec mon partenaire et voici ce qui s'est passé. Aide-moi à réfléchir à plusieurs façons différentes de comprendre la situation, y compris celles qui ne sont pas d'accord avec ce que je pensais au début ».
Demandez-lui d'être neutre : vous pouvez dire au chat à l'avance : « Ne suppose pas que j'ai raison juste parce que c'est moi qui raconte l'histoire », « Quels détails te manquent encore pour comprendre l'image complète ? » ou « Aide-moi à faire la distinction entre ce qui s'est certainement passé et ce que j'interprète ou ce dont je crains que cela se soit passé ».
Faites attention si vous êtes pris dans un cycle de réconfort : si vous vous surprenez à demander encore et encore « Es-tu sûr que je n'ai pas à m'inquiéter ? » sous toutes sortes de formulations juste pour obtenir un peu plus de tranquillité, le chat ne vous aide plus vraiment à faire face — il nourrit simplement votre besoin de réconfort immédiat. Dans une telle situation, il vaut mieux lui écrire : « Je remarque que je cherche ta confirmation encore et encore. Ne me rassure pas automatiquement. Aide-moi à réfléchir à ce que je peux faire maintenant en dehors du chat, et s'il te semble que cette situation nécessite l'aide d'un professionnel, dis-le-moi directement ».
Quand un voyant rouge doit-il s'allumer ?
Parallèlement, il est important de prêter attention aux signes avant-coureurs clairs — comme préférer parler à l'IA plutôt que de rencontrer de vraies personnes, se sentir obligé de le consulter avant presque chaque petite décision de la vie quotidienne, ou commencer à sentir qu'« il est le seul à vraiment me comprendre ». Un voyant rouge vif doit également s'allumer lorsque vous passez des heures devant lui au détriment de choses fondamentales comme le sommeil, le travail, les relations ou notre vie sociale.
Dans des états mentaux plus complexes — comme des pensées suicidaires, la psychose, la manie ou une confusion sévère — le chat ne remplace en aucun cas une aide professionnelle. Même l'Association américaine de psychologie met explicitement en garde contre le fait de se fier à l'intelligence artificielle au lieu d'une thérapie ou pendant une crise.
Cela ne signifie pas que nous devons supprimer complètement l'IA de notre vie. Elle peut toujours aider à organiser ses pensées, à répéter une conversation complexe avant qu'elle n'ait lieu, à formuler des questions avant une rencontre avec un thérapeute ou simplement à comprendre quel sujet nous devrions explorer. L'exercice simple, à mon avis, est de nous demander : la conversation avec le chat me ramène-t-elle à ma vie, ou me pousse-t-elle à rester uniquement à l'intérieur ? Si la conversation nous aide à sortir, à parler à une autre personne, à prendre une décision ou à chercher de l'aide, elle peut être un excellent outil. Mais si elle devient le seul endroit où nous nous sentons compris et acceptés sans conditions, il vaut mieux s'arrêter. En fin de compte, la psychologie ne consiste pas seulement à savoir dire les bons mots. Parfois, la personne assise en face de nous — celle qui n'est pas toujours d'accord avec nous — est celle qui nous aide à voir ce que nous ne pouvions pas voir seuls.
