L’IA éthique : comment garantir la non-discrimination dans vos algorithmes de tri de CV ?

Vous avez déployé un outil d’intelligence artificielle pour accélérer le traitement de vos candidatures. Résultat : vos délais de présélection ont chuté de moitié. Mais avez-vous vérifié si votre algorithme de tri des CV n’écartait pas systématiquement les candidat•es de plus de 45 ans, les profils issus de certains territoires, ou les personnes aux prénoms à consonance étrangère ? Probablement pas. Et c’est précisément là que réside le problème.

Dans un contexte où l’IA éthique s’impose comme une exigence réglementaire et un marqueur de marque employeur, ignorer les biais algorithmiques de vos outils de recrutement n’est plus une option. Au-delà du risque juridique, c’est votre capacité à attirer les meilleurs talents (et les plus divers) qui est en jeu. Chez KARA Travail Temporaire et Placement, nous accompagnons les directions RH pour concilier performance algorithmique et équité des processus.

 

Comprendre le mécanisme du biais algorithmique dans le tri de CV

Par définition, un algorithme d’analyse de CV apprend et évolue à partir de données historiques. Si vos recrutements passés, consciemment ou non, favorisaient certains profils, l’IA reproduit ces schémas à grande échelle et à grande vitesse. C’est le principe même du biais : une discrimination automatisée, invisible, mais bien réelle lors du tri de cv. 

L’exemple d’Amazon est devenu un cas d’école mondial. En 2018, le géant américain a dû abandonner son outil de présélection, entraîné sur dix années de recrutements internes majoritairement masculins, après avoir constaté qu’il pénalisait automatiquement les CV contenant des termes féminins. La leçon vaut pour toutes les organisations : un modèle n’est jamais neutre. Il est le reflet fidèle des décisions humaines qui l’ont nourri.

Ces dérives ne se limitent pas au genre : elles peuvent toucher l’âge, l’origine, le handicap, ou même le code postal d’un•e candidat•e. Dans un secteur comme la comptabilité ou les fonctions supports, où les profils expérimentés sont déjà rares, écarter par erreur des talents qualifiés aggrave encore les tensions de sourcing.

 

Un cadre légal et réglementaire de plus en plus strict

La législation en droit français

L’article L. 1132-1 du Code du travail interdit toute discrimination à l’embauche fondée sur l’origine, le sexe, l’âge, le handicap ou la situation de famille, quel que soit l’outil utilisé pour sélectionner les candidatures. L’IA n’est pas une zone de non-droit. La responsabilité de l’employeur est entière, même en cas de délégation à un prestataire technologique.

Au niveau européen : l’AI Act

L’AI Act, le règlement européen sur l’IA, entré en application progressive depuis 2024, classe les systèmes d’IA utilisés dans le recrutement parmi les applications à haut risque. Les obligations sont directes : transparence des décisions, journalisation des actions, droit à l’explication pour tout candidat écarté. Les sanctions en cas de non-conformité peuvent atteindre des sommes importantes, que peu d’entreprises peuvent se permettre d’ignorer.

 

Le RGPD vient compléter ce dispositif avec son article 22, qui interdit qu’une décision produisant des effets juridiques significatifs repose exclusivement sur un traitement automatisé, sans intervention humaine.

 

5 leviers concrets pour intégrer l’IA éthique dans vos processus RH

1. Auditer vos données d’entraînement

Avant de déployer ou de reconduire un outil, exigez de votre prestataire une analyse détaillée des données sources. Des données biaisées produisent un modèle biaisé, sans exception. C’est le premier levier de contrôle pour prévenir la discrimination lors des recrutements. 

2. Anonymiser les CV en amont

Supprimer systématiquement le prénom, la photo, l’adresse et la date de naissance avant le passage dans l’algorithme réduit mécaniquement l’exposition aux biais les plus courants. Cette mesure simple est à la portée de toutes les organisations, quelle que soit leur maturité technologique.

3. Définir des critères de sélection explicites et documentés

L’IA doit scorer des compétences mesurables, pas des « soft skills » interprétables. Formalisez par écrit vos critères avant de configurer le modèle, et assurez-vous qu’ils soient directement liés aux exigences opérationnelles du poste.

4. Mettre en place un suivi statistique régulier

Analysez trimestriellement les taux de sélection par genre, tranche d’âge et origine supposée. Un écart inexpliqué supérieur à 20 % est un signal d’alerte reconnu dans les bonnes pratiques d’équité algorithmique. Cette démarche rejoint directement les enjeux d’employabilité des seniors et de diversité générationnelle que nous accompagnons chez nos clients.

5. Réserver la décision finale aux humains

L’IA propose, le recruteur dispose. L’IA propose, le/la recruteur•euse dispose. Aucun•e candidat•e ne doit être écarté•e définitivement sur la seule base d’un score automatique, conformément aux exigences du RGPD. Ce principe est au cœur de la démarche d’IA éthique : la technologie amplifie le jugement humain, elle ne le remplace pas.

 

Le rôle des équipes RH comme premier garant de l’équité

Garantir une démarche éthique ne se résume pas à un paramétrage technique. Cela engage la responsabilité des équipes RH qui supervisent les outils. Former vos recruteurs et recruteuses à lire un rapport d’audit algorithmique, à questionner un taux d’exclusion anormal, à documenter leurs décisions : c’est cela, la gouvernance RH de demain.

Les directions RH les plus avancées intègrent désormais des comités d’éthique algorithmique associant juristes, data scientists et responsables recrutement. Une pratique qui anticipe les obligations à venir de l’AI Act et qui positionne l’entreprise comme un acteur responsable aux yeux des candidats. Cette posture rejoint directement les enjeux de maintien de l’employabilité à l’ère de l’IA générative.

 

KARA, partenaire d’un recrutement équitable et performant

Depuis 22 ans, KARA Travail Temporaire et Placement accompagne les entreprises dans leurs enjeux de sourcing et de sélection sur les métiers tertiaires : administratif, comptabilité-finance, digital et retail-luxe. Face à la montée en puissance des outils algorithmiques, nous avons fait le choix d’une approche hybride : la technologie au service du jugement humain, jamais à sa place.

Nos consultant•es évaluent chaque candidat•e en entretien individuel, sur la base de critères de compétences transparents et documentés. Nos processus de sélection sont conçus pour sécuriser la diversité des profils présentés, y compris les profils seniors et les talents en reconversion. Une démarche directement alignée avec les exigences de l’IA éthique et les obligations de l’AI Act.

Vous souhaitez sécuriser vos processus de recrutement et garantir leur conformité ? Contactez nos équipes pour des recommandations opérationnelles adaptées à votre organisation.

 

Sources :

• Code du travail français, art. L. 1132-1 – discrimination à l’embauche
• Règlement européen sur l’IA (AI Act), Règlement (UE) 2024/1689, JOUE
• RGPD, Règlement (UE) 2016/679, art. 22 – décision automatisée
• Reuters, « Amazon scraps secret AI recruiting tool that showed bias against women », 2018
• CNIL, « IA et ressources humaines : quels enjeux pour la protection des données ? », cnil.fr