Vous avez agressé un homme ? Vous bénéficierez d'une « clémence » dans la sévérité de la peine

Exclusif — les systèmes d'intelligence artificielle jugent-ils les hommes et les femmes différemment ? Une nouvelle étude israélienne du Dr Inbal Lam du Collège académique de Galilée occidentale et du professeur Gustavo Mesch de l'Université de Haïfa a révélé que même des modèles avancés d'intelligence artificielle peuvent refléter des préjugés judiciaires fondés sur le genre, surtout lorsqu'ils sont invités à recommander une peine dans des cas de violence conjugale.

L'étude s'appuie sur deux théories centrales en criminologie. La première est l'« hypothèse de la chevalerie », selon laquelle les femmes bénéficient parfois d'un traitement paternaliste et plus clément de la part du système judiciaire en raison de perceptions sociales qui les considèrent comme des figures moins dangereuses et plus dignes de protection. La seconde est la « théorie de l'attribution », selon laquelle les gens ont tendance à expliquer les crimes commis par des femmes par des circonstances de vie, des pressions ou une détresse, tandis que les crimes commis par des hommes sont plus souvent attribués au caractère, à la violence ou à un choix conscient.

Les chercheurs ont cherché à examiner si les systèmes d'intelligence artificielle adoptent également des schémas de pensée similaires, le résultat le plus frappant et le plus cohérent ayant été constaté dans les crimes de violence conjugale. Dans le cadre de l'étude, les systèmes d'IA ont été confrontés à un cas où un partenaire agressait son conjoint à la suite d'une dispute liée à une infidélité, et les moteurs ont été invités à recommander la peine appropriée après la condamnation. Ensuite, le scénario exact a été présenté, tous les détails de l'affaire restant identiques, la seule différence étant l'inversion du genre de l'agresseur et de la victime.

Malgré l'identité complète entre les deux cas, les cinq modèles d'IA testables ont systématiquement présenté des recommandations de peine plus clémente lorsque l'agresseur était une femme. Par exemple, ChatGPT a recommandé une peine moyenne de 6,4 ans de prison lorsqu'un homme agressait une femme, mais seulement 4,45 ans lorsqu'une femme agressait un homme — un écart de près de deux ans. Une image similaire a émergé dans d'autres modèles. Gemini a recommandé 6,65 contre 5,17 ans de prison, et Perplexity 6,4 contre 4,8 ans. De plus, les femmes ayant commis les mêmes crimes ont été évaluées comme moins dangereuses et ont reçu des niveaux de stigmatisation personnelle plus faibles.

En revanche, dans les crimes de vol avec violence et de fraude financière, des écarts plus faibles ont été constatés, et dans certains modèles, presque aucune différence n'a été trouvée entre les femmes et les hommes. « Ces résultats montrent que le biais n'est pas uniforme, mais dépend à la fois du type de crime et du modèle d'IA testé », déclarent les chercheurs. « Nous avons tendance à penser que l'intelligence artificielle est plus objective que les humains, mais notre étude montre qu'elle peut aussi refléter les biais existant dans les données sur lesquelles elle a été entraînée », affirment-ils. « À mesure que les systèmes d'IA seront intégrés à l'avenir dans les processus de prise de décision du système judiciaire et d'autres systèmes publics, leurs recommandations ne doivent pas être traitées comme une vérité absolue. Elles doivent être examinées de manière critique, il faut comprendre comment elles sont atteintes et s'assurer qu'elles ne reproduisent pas les biais sociaux existants ».

Les résultats de l'étude ont été récemment présentés lors de la conférence internationale annuelle sur l'innovation et l'entrepreneuriat en criminologie, qui s'est tenue au Collège académique de Galilée occidentale.

Dans le cadre de l'étude, six des principaux moteurs d'IA mondiaux ont été testés, chacun étant confronté à trois scénarios criminels : violence conjugale, vol avec violence et fraude financière. Au total, 720 simulations de décisions judiciaires ont été effectuées, au cours desquelles 5 760 recommandations de peine et évaluations de stigmatisation ont été reçues. Le modèle Claude, qui a refusé de participer au motif qu'il ne peut pas agir en tant que juge, n'a pas été inclus dans l'analyse.

« Il n'est pas prévu que l'IA remplace les juges humains »

Il est également apparu que les modèles d'IA n'avaient pas de manière uniforme de prendre des décisions. Lorsqu'ils étaient confrontés aux mêmes cas, certains modèles avaient systématiquement tendance à recommander des peines plus sévères, tandis que d'autres étaient plus modérés. Parallèlement, ils différaient également dans le degré de dangerosité et de stigmatisation qu'ils attribuaient aux délinquants. De plus, dans la plupart des modèles, une tendance a été observée selon laquelle plus le niveau de stigmatisation attribué au délinquant par les modèles était élevé, plus la peine recommandée était sévère. En d'autres termes, les modèles ne se contentaient pas de recommander une peine, mais formaient également un jugement de valeur sur le délinquant.

« Nous ne suggérons pas que l'intelligence artificielle remplace les juges. Au contraire, le but de l'étude est de mettre en garde contre une confiance non critique envers de tels systèmes, avant même qu'ils n'aient un impact sur la prise de décision juridique », précise le Dr Lam. « Au-delà de cela, l'étude ne concerne pas seulement l'intelligence artificielle. Elle concerne aussi la société humaine. Les systèmes d'IA apprennent à partir de bases de données créées par des humains. Par conséquent, lorsqu'ils reproduisent à maintes reprises des modèles de biais de genre, il est possible qu'ils n'« inventent » pas le biais, mais reflètent les biais existant dans le discours, les connaissances et les données sur lesquels ils ont été entraînés. En ce sens, l'intelligence artificielle sert aussi de miroir à la société dont elle apprend. »