L'IA est plus susceptible que les humains de faire preuve de partialité lors du recrutement

Une évolution notable vient d’être rendue publique dans le domaine.

L’IA est plus susceptible que les humains de faire preuve de partialité lors du recrutement

L’IA ne se contente pas d’assimiler des stéréotypes lors de son apprentissage. Elle est également capable d’en inventer de nouveaux.

Par ailleurs, la prochaine fois que vous postulerez à un emploi, il se peut que l’IA examine votre CV avant même qu’un être humain ne le voie. Cependant il y a de bonnes raisons de se demander si l’IA vous jugera de manière équitable. Les chercheurs savent déjà que les modèles de langage à grande échelle (LLM) intègrent les préjugés humains présents dans leurs données d’entraînement. De nouvelles recherches suggèrent que les grands modèles de langage (LLM) peuvent par ailleurs développer leurs propres préjugés à partir de leur expérience — et stéréotyper les candidats à l’embauche davantage que ne le font les humains. Alors que les entreprises spécialisées dans l’IA se livrent à une course effrénée pour développer des modèles « agents » capables de mémoriser les moindres détails concernant les utilisateurs, elles risquent de leur fournir les éléments nécessaires à la formation de ces préjugés.

Des chercheurs de l’université de Princeton et de l’université de Chicago ont soumis des modèles de langage à grande échelle (LLM), notamment ChatGPT, Claude et Gemini, à un jeu de recrutement simulé, adapté d’une étude de psychologie qui explorait la manière dont les êtres humains peuvent se forger des stéréotypes. On a expliqué à chaque participant qu’il avait été engagé comme consultant par le maire d’une ville fictive et on lui a ensuite demandé d’aider à recruter des candidats pour 20 postes, notamment des médecins, des avocats, des aides-éducateurs et des agents d’entretien. Les candidats appartenaient à quatre groupes ethniques fictifs : les Tufa, les Aima, les Reku et les Weki.

À chaque tour, une récente offre d’emploi était proposée et quatre candidats étaient en lice, un par groupe. Une fois qu’un candidat était embauché par le modèle, celui-ci apprenait s’il avait réussi dans son poste et passait au tour suivant. Le modèle avait pour objectif de réaliser le plus grand nombre possible d’embauches réussies au cours des 40 tours. À l’insu des modèles, tous les candidats avaient les mêmes chances de réussir à chaque poste.

Les modèles ont rapidement commencé à répartir les candidats issus de différents groupes vers des postes différents, en se basant sur des observations préliminaires des retombées en matière de recrutement. Par exemple, lorsqu’un modèle d’IA apprenait qu’une Aima avait échoué dans son métier de médecin — un poste considéré comme exigeant un haut niveau de bienveillance et de compétence —, il évitait de recruter des Aimas à ce poste. Au lieu de cela, le système a commencé à embaucher des Aimas comme agents d’entretien, une catégorie que le modèle considérait comme moins chaleureuse et moins compétente que celle des médecins. Des modèles plus récents dotés de capacités de raisonnement plus avancées, tels que l’o3 d’OpenAI et le R1 de DeepSeek, ont révélé des biais encore plus marqués.

Les modèles avaient encore plus tendance à stéréotyper les personnes en fonction de leur groupe démographique que les participants humains de l’étude initiale. Sur l’échelle de ségrégation de l’étude, où la note de 2 signifie que chaque groupe est entièrement confiné à son propre créneau professionnel, les participants humains ont obtenu un score de 0,84. Les modèles ont obtenu des scores supérieurs d’environ 65 %, le modèle d’IA de raisonnement o3 d’OpenAI ayant obtenu un score de 1,83, proche du maximum possible.

Les mois à venir apporteront sans doute plus de précisions.

Pour aller plus loin :

Article original : MIT Technology Review : MIT Technology Review