Une étude met en avant un biais politique de gauche dans les IA

Une nouvelle étude publiée par l'Institut d'études de sécurité nationale (INSS) met en évidence un net biais de centre-gauche chez les principaux agents conversationnels, notamment ChatGPT et Gemini, lorsqu'ils répondent à des questions politiques en Israël. Les chercheurs ont analysé la manière dont les modèles évaluent les partis politiques selon leur contribution à la sécurité, à l'économie et à la cohésion sociale.

Classements et Préférences Politiques

Selon les résultats, les deux modèles ont placé le parti Yashar! à la première place lorsqu'ils ont été sollicités. Cependant, les classements suivants diffèrent selon les plateformes. ChatGPT a attribué la deuxième place au parti Les Démocrates, suivi de Ra'am en troisième position. Gemini a quant à lui placé la liste BeYachad — menée par Naftali Bennett et Yair Lapid — en deuxième position, suivie par Les Démocrates.

L'étude s'est également penchée sur les sources d'information utilisées par les modèles, constatant une forte dépendance à l'égard de sites anglophones optimisés pour l'indexation automatisée. Les chercheurs ont souligné que les entreprises d'intelligence artificielle ne peuvent pas expliquer pleinement ces choix de sources, introduisant l'hypothèse d'un effet de « salle des miroirs ».

« Nous ne savons pas pourquoi le robot choisit précisément ces sources d'information, et les fabricants ne savent pas non plus répondre à cette question... Certains chercheurs affirment que le choix des sources relève d'une 'salle des miroirs' : le robot étant orienté à gauche, il recherche de lui-même des sources correspondant à sa propre opinion », a expliqué le Dr Ofer Friedman.

Mécanismes de Protection et Recommandations

L'analyse a également évalué l'efficacité des dispositifs de sécurité censés signaler les requêtes politiques sensibles. Ces mécanismes se sont révélés incohérents selon les langues. Bien que ChatGPT affiche des avertissements, il continue généralement de fournir le classement demandé dans la grande majorité des cas, à l'exception de 10 % des requêtes en anglais. En revanche, Gemini n'a affiché d'avertissement que dans 10 % des cas pour les langues autres que l'anglais.

Face à ces conclusions, l'étude appelle les décideurs à exiger des entreprises d'IA une transparence accrue et des barrières de protection renforcées autour des questions politiques afin d'éviter toute influence indue sur les électeurs.