L'IA peut-elle éliminer les biais dans le processus de recrutement ?
Oui, d'après des observateurs qui pensent qu'elle supplante l'humain

Le , par Patrick Ruiz, Chroniqueur Actualités
Dans le cadre de la reconnaissance faciale, l’intelligence artificielle suscite beaucoup de controverses. Tenez par exemple, une récente publication publication de l’American Civil Liberties Union (ACLU) fait état de ce qu’une IA d’Amazon a, à tort, identifié 28 membres du congrès des États-Unis comme des criminels. Il n’empêche que cet ensemble de techniques a la faveur de certains observateurs sur le terrain du recrutement.

En juillet 2016, la multinationale anglo-néerlandaise Unilever a introduit l’intelligence artificielle à son processus de recrutement. Même son de cloche pour Entelo et Stella.ai qui font leur apparition après Unilever avec des plateformes en ligne d’automatisation du processus de recrutement basées sur l’intelligence artificielle. Ces entreprises vantent la technique pour sa capacité à opérer une extraction pertinente des candidats en s’appuyant sur la science des données. Dans le cas Unilever, les responsables soulignent que la technique a permis d’augmenter significativement l’embauche de candidats non blancs, mais aussi d’apporter plus de diversité en termes de genre et de milieu social d’origine.

L’aspect qui s’imbrique au précédent est celui de la neutralité que ces dernières lui attribuent. « L’algorithme effectue uniquement des correspondances sur la base des données qui lui sont fournies . Il ne scrute que les compétences et les industries », déclare Rich Joffe – CEO de Stella.ai.


Il faut le reconnaître, parcourir une pile de CV à la recherche de la perle rare est un exercice fastidieux et parfois improductif. Lorsqu’il faut effectuer une tâche de façon répétitive et sur la durée, un ordinateur est assurément mieux outillé. C’est probablement la raison pour laquelle Rich Joffe a ajouté que « bien qu’aucun algorithme ne soit livré avec une garantie d’infaillibilité, je crois qu’ils sont meilleurs que les humains. »

Seulement, dans un contexte où moins de 5 % des chefs d’entreprise du Fortune 500 sont des femmes, où la diversité raciale à la tête du même groupe d’entreprise est à questionner, l’argument de la neutralité de l’intelligence artificielle est mis à mal. Le fait est qu’ « identifier des candidats à forts potentiels est une tâche très subjective » comme le rappelle Alan Todd – CEO de CorpU. Il vient donc que l’intelligence artificielle peut exhiber les biais des programmeurs qui l’ont conçu. La question divise profondément au sein de la communauté de l’intelligence artificielle ; l’on n’arrive pas à tomber d’accord sur les caractéristiques de l’algorithme capable de rendre le processus de recrutement plus équitable.

L’intelligence artificielle à même de sortir l’homme du processus de recrutement de façon totale ? Il semble que ce ne soit pas pour demain. Pour le moment, les solutions adoptées en entreprise s’appuient sur le jumelage des capacités de l’homme à celles de la machine, en entendant ce fameux jour où l’ordre des choses va totalement s’inverser en faveur des ordinateurs.

Source : Bloomberg

Et vous ?

Avez-vous déjà eu à passer un entretien d’embauche avec une IA comme recruteur ? Partagez votre expérience. Quels sont les aspects qui vous ont plu (horripilé) ?

Est-il possible de créer une intelligence artificielle qui n’exhibe pas de biais ?

Voir aussi :

La Chine veut devenir leader mondial de l'intelligence artificielle avec un plan de développement national visant à augmenter son poids économique

Les chercheurs en intelligence artificielle peuvent-ils gagner jusqu'à 1 million $ par an dans la Silicon Valley ? Un aperçu des salaires

L'intelligence artificielle est-elle l'arme de la prochaine guerre froide ? Oui, répond un chercheur en informatique

Trolldi : cinq dangers émanant de l'utilisation de l'intelligence artificielle et la robotique

Des chercheurs du MIT créent la première intelligence artificielle psychopathe pour illustrer le problème de biais des données nourries aux IA


Vous avez aimé cette actualité ? Alors partagez-la avec vos amis en cliquant sur les boutons ci-dessous :


 Poster une réponse Signaler un problème

Avatar de BenoitM BenoitM - Membre expert https://www.developpez.com
le 10/08/2018 à 14:44
Citation Envoyé par Patrick Ruiz Voir le message

Avez-vous déjà eu à passer un entretien d’embauche avec une IA comme recruteur ? Partagez votre expérience. Quels sont les aspects qui vous ont plu (horripilé) ?
C'est quoi une IA?
Est-ce que les tests psychologiques sont des IA?

Citation Envoyé par Patrick Ruiz Voir le message

Est-il possible de créer une intelligence artificielle qui n’exhibe pas de biais ?
Elle peut peut-être réduire certains biais (discrimination sexuelle/raciale).

Mais je ne vois pas comment faire un test 1h pour recruter la bonne personne. Pas plus avec une IA qu'un humain.
Et je vois mal une IA pourvoir tester tous les types de métier
Juger de la compétence d'un maçon, un boucher uniquement via un test sur ordi me semble moyen comme idée...

ps: et j'ai toujours autant de mal avec le terme d'IA. Et je ne vois pas très bien comment marche cette IA.
Ca ressemble à un test de personnalité avec laquelle on paramètre quel profile ont souhaite.
Il n'y a pas l'air d'avoir grand chose de neuf...
Avatar de 23JFK 23JFK - Membre expérimenté https://www.developpez.com
le 10/08/2018 à 14:59
Les quelques tentatives d'utilisation d'IA dans ce genre de domaine ont montré que ces algorithmes décisionnels doivent être artificiellement biaisés par des quotas pour ne pas finir par exclure certains profils qui, quoi qu'en disent les bonnes âmes, s'avèrent souvent cohérés à une origine sociale/biologique/culturelle,... Bref, à l'histoire par laquelle et dans laquelle l'individu s'est construit.
Avatar de 7gyY9w1ZY6ySRgPeaefZ 7gyY9w1ZY6ySRgPeaefZ - Membre expert https://www.developpez.com
le 10/08/2018 à 15:49
L'IA peut-elle vraiment remplacer la graphologie ?
Avatar de _Bérenger_ _Bérenger_ - Membre régulier https://www.developpez.com
le 10/08/2018 à 16:18
Les processus de recrutement actuels sont parfois tellement non-intelligents, que les remplacer par des processus avec une (non-)intelligence artificielle ne devrait pas changer grand-chose...
Avatar de SimonDecoline SimonDecoline - Membre chevronné https://www.developpez.com
le 10/08/2018 à 16:53
Citation Envoyé par Patrick Ruiz Voir le message
Est-il possible de créer une intelligence artificielle qui n’exhibe pas de biais ?
oui, c'est possible :

Code : Sélectionner tout
1
2
3
4
Personne recruter(vector<Personne> vp) {
    return random(vp);
}
Avatar de Conan Lord Conan Lord - Membre expert https://www.developpez.com
le 10/08/2018 à 16:55
Citation Envoyé par 23JFK Voir le message
Les quelques tentatives d'utilisation d'IA dans ce genre de domaine ont montré que ces algorithmes décisionnels doivent être artificiellement biaisés par des quotas pour ne pas finir par exclure certains profils qui, quoi qu'en disent les bonnes âmes, s'avèrent souvent cohérés à une origine sociale/biologique/culturelle,... Bref, à l'histoire par laquelle et dans laquelle l'individu s'est construit.
Certes, mais dans ce cas ce sont des biais justifiés, qui sont corrigés par les quotas.
Si l'intégration de l'IA peut permettre d'éviter les biais qu'on peut avoir involontairement, même avec les meilleures intentions du monde, et qui ne sont pas forcément justifiés, moi je dis pourquoi pas.
Avatar de epimannn epimannn - Membre habitué https://www.developpez.com
le 10/08/2018 à 23:16
A partir du moment où on parle de respecter des quotas, c'est qu'on sacrifie la qualité à la quantité.
Donc si on doit faire respecter à une IA des quotas, soit il y a un problème avec le pool de départ, soit c'est l’algorithme qui ne respect pas des critères objectifs.

Si par contre, on se retrouve quand même avec un résultat "biaisé", par exemple, plus de femme pour les postes d'infirmier et plus d'homme pour des postes d'électricien, avec des critères objectifs uniquement sur les compétences, c'est pas un problème de biais de l'IA qui fait de la discrimination parce qu'elle a été codé par le système patriarcale blanc raciste et sexiste , mais du pool de départ et que la sélection reflète cette disparité homme/femme dans le pool de départ dans mon exemple.
Avatar de foetus foetus - Expert éminent https://www.developpez.com
le 11/08/2018 à 0:52
Citation Envoyé par SimonDecoline Voir le message
oui, c'est possible
Tu me déçois Les algos génétiques devraient être parfaits.

La population de base est composée de
  • X% de "réseau" (ou piston) (critère recommandation : 5)
  • Y% de jeunes diplômés et de ceux qui coûtent le moins chers/ les plus malléables comme les chômeurs de longue durée ou les reconversions (critère recommandation : 3)
  • Z% de profils correspondants (<- un vieux SELECT sur "un vivier" et un seuil minimum profil (soit à peu près 90%)) (critère recommandation : -1)


avec X >> Y >> Z

Et à chaque génération , soit tu prends ceux ayant le meilleur profil soit les plus recommandés et tu combines les populations faisant le plus de marge.
Avatar de Conan Lord Conan Lord - Membre expert https://www.developpez.com
le 11/08/2018 à 17:01
Citation Envoyé par epimannn Voir le message
A partir du moment où on parle de respecter des quotas, c'est qu'on sacrifie la qualité à la quantité.
Donc si on doit faire respecter à une IA des quotas, soit il y a un problème avec le pool de départ, soit c'est l’algorithme qui ne respect pas des critères objectifs.
Pas forcément. Si on se rend compte par exemple que l'IA n'embauche que des diplômés de tel type d'école parce que la formation répond bien aux besoins de la boîte, mais qu'on préférerait embaucher aussi d'autres profils pour une raison X ou Y (apporter un regard extérieur à une équipe, par exemple), là les quotas prennent tout leur sens. La discrimination faite par l'IA à la base est justifiée par les besoins du poste, mais il y a d'autres paramètres qu'on n'a pas forcément pu lui faire ingérer. Les quotas peuvent corriger ça (sans parler de blancs ou de mâles).
Avatar de epimannn epimannn - Membre habitué https://www.developpez.com
le 11/08/2018 à 17:42
Citation Envoyé par Conan Lord Voir le message
Pas forcément. Si on se rend compte par exemple que l'IA n'embauche que des diplômés de tel type d'école parce que la formation répond bien aux besoins de la boîte, mais qu'on préférerait embaucher aussi d'autres profils pour une raison X ou Y (apporter un regard extérieur à une équipe, par exemple), là les quotas prennent tout leur sens. La discrimination faite par l'IA à la base est justifiée par les besoins du poste, mais il y a d'autres paramètres qu'on n'a pas forcément pu lui faire ingérer. Les quotas peuvent corriger ça (sans parler de blancs ou de mâles).
Tu sacrifies la qualité à la quantité pour une raison subjective. Ou alors, c'est que tu as mal défini ton besoin de départ et tes critères de sélection sont à revoir.

Ces IA sont apparues pour répondre aux critiques de présumées discrimination à l'emploi des minorités aux USA. Faut voir ce que le mouvement féministe fait comme ravage là-bas sur ces sujets ( et à la population, ç'est arrivé en france surtout avec #metoo ). J'ai pas été lire l'article original, je peux me tromper, mais faut bien voir dans quel contexte cette news apparait. Et c'est subtilement suggéré que c'est pour répondre à ce problème de manque de diversité imposé par la "société-patriarcale-privilégiée-de-mâle-blanc-raciste-et-sexiste" ( l'argument qu'il n'y a pas assez de femme dans le top 500 des CEO est un des arguments phare des féministes US ). Le problème avec les individus de cette mouvance, c'est que même si on applique ces systèmes, ils vont encore trouver le moyen de ramener ça au "patriarcat-privilégié-de-mâle-blanc-raciste-et-sexiste" et de dire non à cette solution parce qu'il y a pas eu assez de femme, d'asiatiques, de genre "non femme et non homme parce que j'ai décidé d'être ni l'un ni l'autre", d'arabe, de noir et d'autres trucs qui me passent au dessus de la tête, dans l'équipe de développement de l'IA...

Jvoulais pas trop aborder ce sujet très politique, mais c'est pour expliquer d'où vient mon raisonnement. Ton raisonnement en France est tout à fait valide ( pour le moment, tu vas voir d'ici quelques années on va se la manger la vague féministe américaine en pleine dent et elles ont commencer avec la grammaire inclusive et d'autres absurdités dans les lois, comme aux USA )
Contacter le responsable de la rubrique Accueil