Un biais algorithmique est une distorsion systématique dans les résultats d'un système automatisé, qui avantage ou pénalise certains groupes de candidats. Cette page définit le phénomène, revient sur les cas documentés comme l'outil abandonné par Amazon en 2018, résume ce que l'AI Act exige, explique comment l'Agent Match de Seeqle limite ces biais, et dit clairement ce qu'aucun système ne peut garantir.
C'est une erreur systématique, et non aléatoire, dans les résultats d'un système automatisé de tri ou de ciblage : à compétences égales, certains profils sont mieux classés ou plus exposés aux offres que d'autres, pour des raisons sans lien avec l'aptitude au poste.
Le biais peut toucher les deux étapes d'un recrutement assisté par IA :
Un biais algorithmique n'exige aucune intention discriminatoire : il émerge des données et des objectifs d'optimisation. C'est précisément ce qui le rend difficile à voir sans mesure.
Principalement des données d'apprentissage : un modèle entraîné sur des recrutements passés apprend les préférences passées, y compris les mauvaises. S'y ajoutent les variables corrélées (proxies), qui réintroduisent une caractéristique protégée sans la nommer, et les boucles de rétroaction qui amplifient un déséquilibre initial.
Les trois mécanismes documentés :
Le cas le plus documenté est celui d'Amazon : en 2018, Reuters a révélé que son outil expérimental de notation de CV, entraîné sur dix ans de candidatures majoritairement masculines, pénalisait les CV contenant le mot « women's » et dévalorisait les diplômées de certaines universités féminines. Amazon a abandonné l'outil.
Ce que ce cas établit, d'après l'enquête de Reuters (Jeffrey Dastin, octobre 2018) :
D'autres travaux, académiques et journalistiques, ont documenté des distorsions dans la diffusion d'offres d'emploi sur les plateformes publicitaires. La leçon commune : le biais se mesure sur les résultats, il ne se devine pas à la lecture du code.
L'AI Act (règlement (UE) 2024/1689) classe les systèmes d'IA de recrutement à haut risque (annexe III, point 4) et impose à leurs fournisseurs un examen des données d'entraînement au regard des biais possibles, des mesures pour les détecter et les corriger, et un contrôle humain effectif.
Les exigences les plus directement liées aux biais :
Calendrier : ces obligations pour les systèmes à haut risque de l'annexe III s'appliqueront le 2 décembre 2027, après le report décidé par le Digital Omnibus entré en vigueur en juillet 2026. Le RGPD, qui interdit déjà par principe la décision entièrement automatisée sur une candidature (article 22), s'applique sans attendre.
Sources : Règlement (UE) 2024/1689, articles 10, 13, 14 et annexe III (EUR-Lex, 2024) · Commission européenne, calendrier de mise en œuvre de l'AI Act (ai-act-service-desk.ec.europa.eu).
Par trois choix d'architecture : le scoring s'appuie sur des critères de compétences et de prérequis du poste, pas sur des caractéristiques personnelles ; le score est explicable, décomposé critère par critère ; et aucune décision n'est automatique, le recruteur décide toujours.
Dans le détail :
Aucun système, Seeqle compris, n'élimine tous les biais. Des corrélations résiduelles peuvent subsister dans n'importe quel traitement de données, et un score juste peut être utilisé de façon injuste. L'audit humain régulier des décisions reste nécessaire, et l'affirmer fait partie d'un usage honnête de l'IA.
Ce qu'un outil ne peut pas garantir :
C'est pourquoi la position de Seeqle est celle-ci : l'outil réduit les occasions de biais (critères objectivés, score explicable, décision humaine), et l'employeur conserve la responsabilité de contrôler les résultats. Le cas Amazon l'a montré : c'est l'arrêt de la mesure, pas l'outil seul, qui crée le risque.
En mesurant les résultats à chaque étape, pas en relisant les règles. Comparez les taux de passage entre groupes quand vos données le permettent légalement, échantillonnez des candidatures écartées pour réexamen humain, et relisez les prérequis des fiches de poste à chaque campagne.
Liste de contrôle applicable :
Une distorsion systématique d'un système automatisé qui avantage ou pénalise certains groupes de candidats pour des raisons sans lien avec les compétences, le plus souvent héritée des données d'entraînement ou de variables corrélées.
Oui. Reuters a documenté en octobre 2018 qu'un outil expérimental d'Amazon, entraîné sur des candidatures majoritairement masculines, pénalisait les CV mentionnant le mot « women's ». Amazon a abandonné le projet.
La question ne se tranche pas dans l'absolu. Un algorithme peut industrialiser un biais, mais il peut aussi être mesuré, audité et corrigé, ce qu'un jugement humain ne permet pas facilement. Le facteur décisif est la mesure des résultats et le maintien d'une décision humaine.
L'Agent Match score sur des critères de compétences liés au poste, affiche un score explicable critère par critère et ne rejette jamais un candidat : la décision revient au recruteur, qui peut s'écarter du score.
Non, et une promesse de zéro biais devrait alerter. Un outil sérieux réduit les occasions de biais et rend ses résultats auditables ; le contrôle humain régulier des décisions reste indispensable, ce que l'AI Act inscrit d'ailleurs dans ses exigences.
Sources citées : Reuters, « Amazon scraps secret AI recruiting tool that showed bias against women », Jeffrey Dastin, 10 octobre 2018 (reuters.com) · Règlement (UE) 2024/1689 (AI Act), articles 10, 13, 14 et annexe III point 4 (eur-lex.europa.eu, 2024) · Commission européenne, calendrier de mise en œuvre de l'AI Act (ai-act-service-desk.ec.europa.eu) · Règlement (UE) 2016/679 (RGPD), article 22 (eur-lex.europa.eu, 2016).
Score explicable critère par critère, décision humaine conservée : une démo de 15 minutes montre comment l'Agent Match rend le tri auditable.
Aller plus loin : Diagnostic Attraction Talents · Agent Attract · Agent Match · Tarifs · Où vos offres sont diffusées · Glossaire RH