Auditer ses jeux de données RH pour une IA équitable

Quarante-trois pour cent des entreprises européennes qui ont déployé un outil d’IA en RH n’ont procédé à aucun audit formalisé de leurs données d’entraînement avant mise en production, selon le rapport 2023 de l’AI Now Institute sur les systèmes automatisés dans l’emploi. Ce chiffre n’est pas une curiosité statistique : il désigne l’angle mort le plus coûteux du déploiement IA en ressources humaines. Un modèle entraîné sur dix ans d’historique de recrutement reproduit mécaniquement les déséquilibres de ces dix années. La question n’est donc pas de savoir si vos données contiennent des biais, mais lesquels, à quelle profondeur, et comment les traiter avant qu’un algorithme ne les industrialise.

L’historique RH comme miroir imparfait : ce que vos données racontent sans vous le dire

Les données RH ne sont pas neutres par construction. Elles enregistrent des décisions humaines prises dans des contextes organisationnels, culturels et réglementaires qui ont évolué. Quand Nadia, responsable data RH dans un groupe industriel de 8 000 salariés, a entrepris d’alimenter un modèle de détection des potentiels de mobilité interne, elle a découvert que les données de performance couvrant la période 2010-2018 ne comportaient quasiment aucune femme dans les grades senior d’ingénierie. Non pas parce que les femmes étaient absentes de l’entreprise, mais parce qu’elles avaient été systématiquement orientées vers des postes support. Le modèle, entraîné sur cette base, reproduisait l’orientation, non le potentiel.

Laurence Devillers, chercheuse en IA et membre du Comité national pilote d’éthique du numérique, formule ce problème avec précision : les systèmes apprenants ne discriminent pas intentionnellement, ils optimisent sur ce qu’on leur donne. Si ce qu’on leur donne est le reflet d’un passé inégalitaire, l’optimisation aggrave l’inégalité avec une efficacité redoutable. L’audit de données RH commence donc par une cartographie honnête de ce que l’historique encode réellement.

Trois catégories de biais méritent une attention prioritaire. Le biais de sélection : les cohortes d’entraînement surreprésentent certains profils (CDI, temps plein, cadres) et sous-représentent d’autres (contrats courts, temps partiels, terrain). Le biais de label : les variables cibles, « bon candidat », « potentiel élevé », reflètent les jugements des évaluateurs passés, non une vérité objective. Le biais de variable proxy : le code postal, l’établissement scolaire ou la durée de trajet peuvent coder des caractéristiques protégées sans les nommer explicitement. Ce dernier mécanisme est documenté par le NIST dans son cadre de gestion des risques IA (AI RMF, 2023) comme l’un des vecteurs les plus difficiles à détecter sans outillage dédié.

La variable proxy, angle mort réglementaire que la CNIL signale depuis 2022

La variable proxy est le nœud technique et juridique le plus délicat de l’audit data RH. Elle désigne une variable en apparence neutre qui corrèle fortement avec une caractéristique protégée au sens du droit du travail : origine, genre, situation de handicap, appartenance syndicale. L’établissement d’origine corrèle statistiquement avec l’origine sociale et, dans le contexte français, avec l’origine géographique et culturelle. L’ancienneté dans le poste corrèle avec l’âge. Le taux d’absentéisme peut coder une grossesse ou un proche aidant.

La CNIL, dans ses recommandations sur les systèmes d’IA en RH publiées en 2022, souligne explicitement que l’utilisation de telles variables dans un modèle de sélection ou d’évaluation expose l’employeur à une discrimination indirecte caractérisée, même en l’absence d’intention discriminatoire. La responsabilité juridique ne dépend pas de l’intentionnalité : elle porte sur l’effet produit. Un outil de présélection de CV qui pénalise les candidats issus de certains établissements ou codes postaux sans justification objective liée aux exigences du poste entre dans ce périmètre.

L’audit de variables proxies suppose une double lecture : statistique (calcul des corrélations entre variables candidates et caractéristiques protégées) et métier (questionnement de chaque variable sur sa pertinence pour la prédiction cible). Karim, data scientist dans une ESN parisienne spécialisée en RH tech, décrit la démarche comme « un dialogue tendu entre le métier qui veut garder toutes ses variables prédictives et la conformité qui veut zéro risque ». Ce dialogue doit être structuré, documenté, et tranché par une instance qui dispose à la fois d’une légitimité technique et d’une compétence juridique.

Quatre étapes pour structurer un audit data RH avant déploiement IA

L’audit de données RH n’est pas un projet informatique. C’est un projet de gouvernance qui mobilise DRH, DSI, juristes et représentants du personnel. La structurer en quatre étapes permet d’avancer sans disperser les responsabilités.

Étape 1 : Inventaire et traçabilité des sources. Toute donnée utilisée pour entraîner ou alimenter un modèle RH doit être tracée jusqu’à sa source : quel système l’a produite, sur quelle période, avec quels critères de collecte, et qui en avait la garde. L’AI Index 2024 de Stanford HAI documente que les incidents IA en RH trouvent leur origine, dans 60 % des cas signalés, dans des données dont la provenance n’était pas documentée au moment du déploiement. La traçabilité n’est pas un formalisme bureaucratique : c’est la condition d’une responsabilité identifiable.

Étape 2 : Analyse de la représentativité des cohortes. Comparer la distribution des cohortes d’entraînement à la population RH réelle de l’entreprise, et à la population cible du modèle. Un écart significatif sur le genre, l’âge, le statut contractuel ou le niveau de qualification signale une sous-représentation qui biaisera les prédictions. Cette analyse ne requiert pas d’outillage exotique : des tableaux de distribution croisés, produits sous Python ou R, suffisent pour un premier diagnostic.

Étape 3 : Audit des variables et détection des proxies. Pour chaque variable candidate, calculer sa corrélation avec les caractéristiques protégées disponibles. Supprimer les variables dont le coefficient de corrélation dépasse un seuil défini en amont (souvent 0,4 en valeur absolue, à ajuster selon le contexte). Documenter chaque décision d’inclusion ou d’exclusion avec la justification métier et juridique associée.

Étape 4 : Évaluation différentielle des performances du modèle. Une fois le modèle entraîné, tester ses performances séparément sur chaque sous-groupe (femmes/hommes, tranches d’âge, statuts contractuels). Un modèle globalement précis peut être discriminant sur un sous-groupe spécifique si ses performances y sont significativement inférieures. Gary Marcus, chercheur en sciences cognitives et critique rigoureux des systèmes d’apprentissage automatique, rappelle régulièrement que les métriques agrégées masquent les injustices locales : un taux de précision global de 90 % peut cacher un taux de 60 % sur une minorité, ce qui, appliqué au recrutement, constitue un filtre discriminatoire.

Gouvernance et documentation : ce que le règlement européen sur l’IA va rendre obligatoire

Le règlement européen sur l’IA (AI Act), dont les obligations pour les systèmes à haut risque en matière d’emploi et de gestion des travailleurs s’appliquent progressivement à partir de 2025-2026, classe explicitement les outils de recrutement automatisé, d’évaluation de performance et de gestion des promotions comme systèmes à haut risque. Pour ces systèmes, la documentation des jeux de données d’entraînement n’est plus une bonne pratique : c’est une obligation légale dont le non-respect expose à des amendes pouvant atteindre 30 millions d’euros ou 6 % du chiffre d’affaires mondial.

Cette documentation doit couvrir l’origine des données, les critères de sélection des cohortes d’entraînement, les opérations de prétraitement effectuées, les biais identifiés et les mesures correctives appliquées. Elle doit être mise à jour à chaque cycle de réentraînement du modèle. Isabelle, DRH d’un groupe de services de 3 200 collaborateurs qui a anticipé ces exigences en 2023, résume l’enjeu avec clarté : « Nous avons passé quatre mois à documenter ce que nous avions fait intuitivement depuis deux ans. C’est en écrivant que nous avons vu les trous. »

Timnit Gebru, cofondatrice du Distributed AI Research Institute, a théorisé cet exercice sous le nom de datasheets for datasets : une fiche technique standardisée pour chaque jeu de données, qui détaille sa composition, les conditions de sa collecte, ses usages prévus et ses limites connues. Appliqué aux données RH, ce format oblige à nommer ce qu’on préfère souvent taire : les périodes pendant lesquelles certains groupes étaient systématiquement exclus de certains parcours, les critères d’évaluation qui variaient selon le manager, les systèmes d’information hétérogènes dont les conventions de saisie n’ont jamais été harmonisées.

« Auditer ses données RH, c’est choisir de faire croître ce qui compte vraiment : des décisions fondées sur le potentiel réel, non sur les empreintes d’un passé que personne ne souhaite reproduire. » La rédaction Afervescence

Vers une pratique d’audit continu, intégrée au cycle de vie des modèles RH

L’audit de données RH n’est pas un événement ponctuel qui précède le déploiement. Les données RH évoluent : les populations changent, les pratiques d’évaluation se transforment, les réglementations s’affinent. Un modèle validé en 2023 sur des données équilibrées peut dériver si les nouvelles données d’alimentation reproduisent des déséquilibres émergents.

La pratique d’audit continu suppose trois mécanismes. Un monitoring des distributions en production : surveiller en temps réel que les décisions produites par le modèle ne divergent pas de façon significative selon les sous-groupes. Un réentraînement conditionné : déclencher un nouveau cycle d’audit et de réentraînement dès qu’un écart de performance dépasse un seuil prédéfini, plutôt que selon un calendrier fixe indifférent aux dérives réelles. Une boucle de retour terrain : collecter les signaux des décideurs RH et des candidats sur les décisions produites par le modèle, pour détecter des biais que les métriques quantitatives ne captent pas.

L’OCDE, dans ses principes directeurs sur l’IA actualisés en 2024, insiste sur la notion de cycle de vie complet : la responsabilité d’un déployeur d’IA ne s’arrête pas à la mise en production. Elle couvre l’ensemble de la durée d’utilisation du système, jusqu’à sa désactivation. Pour les RH, cela signifie que la gouvernance des données est un investissement récurrent, pas une dépense initiale.

Les organisations qui traitent l’audit data RH comme une contrainte réglementaire à satisfaire une fois pour toutes rateront l’essentiel. Celles qui le traitent comme une pratique de gouvernance intégrée au pilotage de leurs outils IA disposeront d’un avantage durable : des modèles plus robustes, des décisions plus défendables, et une capacité à documenter leur démarche que les parties prenantes, des représentants du personnel aux investisseurs ESG, réclameront de plus en plus explicitement.

Pour aller plus loin, decouvrez notre accompagnement des organisations et notre approche.

Et si l’audit de vos données RH était le premier acte concret d’une politique IA que vous pourrez assumer devant vos équipes, vos candidats et vos instances de gouvernance ?

FAQ, Questions fréquentes sur l’audit des données RH pour l’IA

#AuditDataRH #IAéquitable #BiaisAlgorithmiques #RHetIA