Même chez Google, on craint que l'IA ne rejette le mauvais candidat

Bien que Google promeuve ses outils d'IA auprès des organisations comme un moyen de passer rapidement en revue tous les CV soumis et de trouver le candidat le plus prometteur, ses propres chercheurs en IA ont mis en doute la fiabilité de ces outils pour le recrutement, selon un rapport de Bloomberg. L'équipe de sécurité et d'alignement de l'intelligence artificielle générale (AGI) de Google DeepMind, qui travaille à réduire les risques associés à l'IA avancée, encourage les candidats aux postes ouverts au sein de l'équipe à remplir un formulaire spécial en plus de leur candidature, afin d'éviter que celle-ci ne soit automatiquement filtrée par les systèmes internes de l'entreprise, selon un document obtenu par Bloomberg, qui contient la mise en garde suivante : « Veuillez ne pas partager ce document largement ».

« Nous avons un système de candidature où il existe une probabilité non négligeable que votre CV soit rejeté par erreur ou qu'il mette trop de temps à nous parvenir. Remplir ce formulaire garantit qu'une personne réelle de l'équipe verra votre candidature », indique le document.

Cependant, ils mettent en garde les candidats contre l'utilisation de l'IA eux-mêmes : « Cette même personne en a assez de lire les réponses des modèles d'IA, car elles se ressemblent toutes ».

Un porte-parole de Google DeepMind a rejeté l'affirmation selon laquelle les systèmes de l'entreprise filtrent les candidats de manière inexacte :

« L'équipe a créé le formulaire spécial pour qu'il contourne le processus de filtrage et pour que les CV soient envoyés directement aux membres de l'équipe. Mais il n'y a pas de raccourcis pour être embauché », a-t-il souligné.

Alors que de plus en plus d'entreprises s'appuient sur l'IA pour le filtrage et le recrutement, les critiques sur le fonctionnement de ces systèmes se multiplient. Un autre argument est qu'ils discriminent les candidats. Ainsi, une vérification effectuée par Bloomberg a révélé que ChatGPT d'OpenAI montrait des signes de discrimination potentielle basée sur les noms des candidats. De même, une plainte a été déposée contre Workday Inc, alléguant que son système de placement filtre les candidats en fonction de leur race et de leur âge, en violation de la loi. L'entreprise a nié les accusations et a affirmé qu'en fin de compte, ce sont les humains qui prennent les décisions d'embauche. Parallèlement, certains demandeurs d'emploi ont déjà appris des méthodes pour utiliser l'IA à leur avantage en manipulant les filtres.