Un modèle d'IA aide à détecter les risques suicidaires dans les lignes d'écoute
Une étude de février 2024 évalue le modèle d'IA SR-BERT, conçu pour aider les bénévoles des services d'écoute à identifier les risques suicidaires grâce à l'analyse textuelle et psychologique.
Une nouvelle étude publiée en février 2024 dans la revue Suicide and Life-Threatening Behavior examine comment l'intelligence artificielle peut aider les bénévoles des lignes d'écoute d'urgence à détecter les risques suicidaires. Les chercheurs ont analysé 17 654 conversations textuelles de la ligne d'assistance en ligne israélienne SAAR, collectées entre 2017 et 2021, pour développer un modèle d'apprentissage automatique spécialisé.
Le modèle SR-BERT et les facteurs de risque psychologiques
L'équipe de recherche a mis au point le modèle SR-BERT, qui associe le traitement du langage naturel à des connaissances cliniques en psychologie. Plutôt que de se limiter à la recherche de mots-clés négatifs, le système analyse des schémas linguistiques contextuels combinés à des facteurs de risque reconnus, tels que le désespoir, l'isolement social, l'historique d'automutilation et les tentatives de suicide antérieures.
Le principal enseignement de l'étude est que le sentiment de désespoir profond est fortement corrélé au risque suicidaire aigu. En ouvrant la "boîte noire" de l'IA, les chercheurs ont pu identifier les marqueurs textuels et les indicateurs psychologiques qui influencent les décisions de l'algorithme.
Performances et limites du système
Le modèle intégré a correctement identifié environ 78,3 % des conversations classées comme présentant un risque suicidaire, surpassant plusieurs modèles de référence. Néanmoins, son taux de précision s'établit à environ 68,9 %, ce qui implique que le système peut omettre certains cas critiques ou signaler par erreur des discussions sans danger.
Les auteurs soulignent que le langage humain est complexe et que les personnes en détresse s'expriment de manières variées qui échappent parfois au vocabulaire du modèle. De plus, les données initiales dépendaient de classifications établies par des bénévoles formés et non exclusivement par des professionnels de la santé mentale.
Perspectives pour l'intervention d'urgence
Cette recherche démontre le potentiel de l'intelligence artificielle pour assister les opérateurs humains en signalant les cas prioritaires. Néanmoins, les experts rappellent qu'un algorithme détecte des schémas textuels, tandis que l'écoute, la compréhension et l'intervention thérapeutique demeurent la prérogative exclusive des humains.
