Bâtir une feuille de route IA qui tient ses promesses sociales

En 2023, l’AI Index de Stanford recensait plus de 25 pays ayant publié une stratégie nationale d’intelligence artificielle. Dans les grandes organisations privées, le phénomène s’est accéléré à la même cadence : roadmaps IA, comités d’éthique, chartes de bon usage. Pourtant, l’AI Now Institute notait, dans son rapport annuel de la même année, un écart structurel entre les engagements affichés et les mécanismes de redevabilité effectivement mis en place. Autrement dit, les organisations savent désormais rédiger une feuille de route IA. Elles peinent encore à en faire un document qui tient ses promesses sociales, c’est-à-dire qui engage l’organisation envers ses collaborateurs, ses parties prenantes et les communautés qu’elle affecte, avec la même rigueur qu’un budget ou un plan industriel.

Ce texte s’adresse aux dirigeants, aux responsables RH et aux équipes data qui construisent ou révisent aujourd’hui leur roadmap IA. L’enjeu n’est pas de ralentir le déploiement des usages, mais de s’assurer que la performance attendue et les engagements sociaux reposent sur les mêmes fondations, dès la phase de cadrage.

La performance sans le social : un risque de gouvernance sous-estimé

Julien dirige la transformation digitale d’un groupe de services à 8 000 collaborateurs. En 2022, son équipe déploie un outil d’aide à la décision RH fondé sur un modèle de machine learning. L’outil prédit les risques de départs et recommande des actions de rétention. Dix-huit mois plus tard, un audit interne révèle que le modèle sur-pondère l’ancienneté et le niveau de diplôme, deux variables corrélées à des inégalités préexistantes dans l’organisation. Personne n’avait posé la question lors du cadrage initial, parce que la feuille de route mesurait la réduction du turnover, non les effets différenciés sur les populations concernées.

Ce type de cas n’est pas exceptionnel. La chercheuse Timnit Gebru, dont les travaux portent sur les biais dans les systèmes d’apprentissage automatique, a documenté de façon systématique comment des objectifs de performance formulés sans contrainte sociale produisent des effets discriminatoires mesurables, même lorsque les équipes sont de bonne foi. Le problème n’est pas l’intention : c’est l’architecture de la décision. Une feuille de route qui fixe des KPI de performance sans poser simultanément des critères de non-discrimination, de transparence et d’impact sur l’emploi crée une asymétrie de gouvernance. Les équipes optimisent ce qui est mesuré. Ce qui n’est pas mesuré dérive.

L’OCDE, dans ses Principes sur l’IA adoptés en 2019 et révisés en 2024, pose explicitement que les systèmes d’IA doivent être conçus pour bénéficier aux personnes et à la planète, pas seulement pour maximiser une fonction objectif organisationnelle. Traduire ce principe en clause opérationnelle dans une roadmap reste le travail que peu d’organisations ont accompli.

RSE et IA : dépasser la juxtaposition de documents

Dans beaucoup d’organisations, la politique RSE et la feuille de route IA coexistent sans vraiment se parler. La première relève de la direction des affaires sociales ou de la communication institutionnelle ; la seconde, de la DSI ou d’une cellule data. Nathalie, DRH d’un groupe industriel de taille intermédiaire, décrit la situation sans détour : « Nous avions une charte IA signée par le comex et un rapport RSE audité par un tiers. Les deux documents ne se citaient pas mutuellement. »

Cette juxtaposition produit plusieurs angles morts. Les engagements RSE portent souvent sur des indicateurs agrégés, le taux d’emploi de personnes en situation de handicap, la parité dans les recrutements, la réduction des écarts de rémunération. Les systèmes IA, lorsqu’ils interviennent dans ces mêmes processus, peuvent agir comme des amplificateurs ou des correcteurs de ces dynamiques, selon la façon dont ils ont été conçus. Si la feuille de route IA ne référence pas explicitement ces engagements comme des contraintes de conception, les deux logiques s’ignorent.

La CNIL, dans ses recommandations sur les systèmes d’IA en ressources humaines publiées en 2023, va dans ce sens : elle recommande que les organisations cartographient les usages IA qui touchent aux droits des personnes et documentent, pour chacun, les mesures de protection effectives, pas seulement déclaratives. Cette cartographie constitue le premier acte d’une gouvernance intégrée : elle force la conversation entre les équipes data et les directions fonctionnelles concernées.

L’intégration ne se fait pas par addition de chapitres dans un document. Elle exige que les personnes qui portent les engagements RSE siègent aux revues de conception des systèmes IA, et que les personnes qui pilotent la roadmap IA rendent compte de leurs arbitrages devant les instances qui évaluent la performance sociale de l’organisation.

Concevoir des engagements comme des contraintes, non comme des aspirations

La distinction entre une aspiration et une contrainte de conception est précise. Une aspiration dit : « Nous souhaitons que notre IA soit équitable. » Une contrainte dit : « Ce système ne sera pas mis en production si le taux de faux positifs dépasse un seuil donné pour les groupes protégés, et si aucun mécanisme de recours n’est opérationnel pour les personnes qu’il affecte. »

Gary Marcus, chercheur en sciences cognitives et critique des limites actuelles des modèles d’apprentissage profond, a insisté à plusieurs reprises sur le fait que les garanties en matière d’équité et de fiabilité ne peuvent pas être postulées : elles doivent être testées, mesurées et vérifiées à intervalles réguliers. Une feuille de route qui inscrit des engagements sociaux sans prévoir les modalités de vérification produit de la rhétorique, non de la gouvernance.

Concrètement, transformer un engagement en contrainte opérationnelle suppose trois conditions. La première est la définition d’un indicateur observable, spécifique au contexte d’usage, pas générique. La deuxième est l’attribution d’une responsabilité nominale : quelqu’un, dans l’organisation, répond de cet indicateur devant une instance identifiée. La troisième est l’existence d’un seuil de déclenchement : en dessous de ce seuil, l’usage est suspendu ou revu. Ces trois conditions réunies transforment une intention en mécanisme de redevabilité.

Plusieurs grandes organisations ont commencé à travailler dans ce sens. Microsoft a publié en 2022 ses Responsible AI Standard, un document qui définit des exigences opérationnelles par catégorie de risque, avec des niveaux de revue différenciés selon l’impact potentiel sur les personnes. Le document n’est pas parfait, et des chercheurs comme Timnit Gebru ont relevé ses limites, mais il représente une tentative sérieuse de formaliser des contraintes, pas seulement des valeurs.

Les parties prenantes internes comme architectes de la roadmap

Mohamed est data scientist dans une organisation de l’économie sociale. Il travaille depuis deux ans sur un modèle qui aide les conseillers à prioriser les accompagnements. Ce qu’il retient de cette expérience : « Les arbitrages les plus difficiles n’étaient pas techniques. Ils portaient sur ce qu’on accepte de ne pas optimiser pour protéger quelque chose d’autre. Ces arbitrages, je ne pouvais pas les faire seul. Il fallait que les travailleurs sociaux, les directions régionales et le comité éthique soient autour de la table au moment où on posait les objectifs du modèle, pas après. »

Ce témoignage pointe une limite fréquente dans la construction des roadmaps IA : les parties prenantes internes sont consultées en aval, lors des phases de déploiement ou de communication, plutôt qu’en amont, lors du cadrage des usages et des objectifs. Or c’est en phase de cadrage que les choix structurants sont faits : quelles données, quel périmètre d’usage, quels indicateurs de succès, quels cas de non-usage.

La philosophe Asma Mhalla, dans ses analyses sur la gouvernance des technologies numériques, souligne que la légitimité d’un système IA ne se construit pas par la seule conformité réglementaire : elle suppose un processus délibératif qui donne voix aux personnes affectées. Dans un contexte organisationnel, cela signifie que les représentants du personnel, les managers de terrain et les fonctions support concernées participent à la définition des périmètres d’usage et des limites du système, avant que les choix techniques soient arrêtés.

Ce mode de cadrage n’est pas plus lent qu’un processus purement descendant. Les organisations qui l’ont expérimenté rapportent qu’il réduit les résistances au déploiement et les révisions coûteuses liées à des effets non anticipés. Il demande davantage de coordination en amont, mais cette coordination est précisément ce que la gouvernance IA doit organiser.

« Faire croître ce qui compte vraiment, c’est accepter que la feuille de route IA soit d’abord un document d’engagement, avant d’être un plan de déploiement. », La rédaction Afervescence

Vers une feuille de route IA qui rend des comptes

Une feuille de route IA qui tient ses promesses sociales n’est pas plus complexe à rédiger qu’une autre. Elle est plus exigeante à tenir, parce qu’elle crée des obligations vérifiables. C’est précisément sa valeur.

Les organisations qui s’y engagent sérieusement font converger trois éléments que les roadmaps classiques traitent séparément : les usages cibles et leurs indicateurs de performance, les engagements sociaux traduits en contraintes de conception, et les mécanismes de redevabilité qui permettent de vérifier, à intervalles réguliers, que les deux premiers s’alignent dans la réalité des déploiements.

Ce travail de convergence ne relève pas uniquement de la direction informatique ou de la fonction data. Il suppose que la direction générale arbitre publiquement entre performance et protection, que les DRH et les directions fonctionnelles portent leurs engagements dans les instances de gouvernance IA, et que les équipes terrain disposent des canaux pour signaler les écarts entre les intentions affichées et les effets observés.

Le NIST, dans son AI Risk Management Framework publié en 2023, propose une architecture de gouvernance fondée sur quatre fonctions : gouverner, cartographier, mesurer, gérer. Ce cadre est précieux précisément parce qu’il traite les risques sociaux avec la même rigueur que les risques techniques, et parce qu’il implique des acteurs organisationnels multiples, pas seulement les équipes data.

Construire cette architecture prend du temps. Mais les organisations qui n’y investissent pas aujourd’hui se retrouveront demain à gérer des révisions coûteuses, des pertes de confiance des équipes, ou des mises en conformité réglementaires subies plutôt que anticipées. La feuille de route IA est un document de direction. Elle dit ce que l’organisation choisit de faire croître, et envers qui elle s’engage à rendre des comptes.

Pour aller plus loin, decouvrez notre accompagnement des organisations et notre approche.

Et si votre prochaine revue de roadmap IA commençait par la question que peu d’organisations osent poser : quels engagements envers vos équipes et vos parties prenantes cette feuille de route est-elle prête à signer, et devant qui ?