RSE et IA : la responsabilité comme critère de décision, pas comme vernis

En 2023, l’AI Now Institute publiait un constat sans ambiguïté : dans la majorité des organisations ayant déployé des systèmes d’intelligence artificielle à grande échelle, les évaluations d’impact éthique ont été conduites après la décision de déploiement, non avant. Autrement dit, la responsabilité est convoquée pour justifier un choix déjà fait, rarement pour l’éclairer. Ce décalage n’est pas un défaut d’intention, la plupart des directions générales interrogées affirmaient placer l’éthique au sommet de leurs priorités. C’est un défaut de méthode. Et il coûte.

Les coûts sont de trois ordres. Réputationnel d’abord : les affaires Clearview AI, les biais documentés dans les systèmes de scoring de crédit aux États-Unis, les controverses autour des outils de surveillance RH en Europe ont montré que l’opinion publique, les régulateurs et les collaborateurs lisent très vite la différence entre un engagement RSE structurel et un communiqué de presse. Opérationnel ensuite : un système déployé sans analyse préalable des biais, des angles morts de données ou des effets de bord génère des coûts de correction en production qui dépassent systématiquement les économies espérées. Stratégique enfin : une organisation qui traite la responsabilité comme un vernis se prive d’une discipline de cadrage qui améliore la qualité des décisions, indépendamment de tout enjeu de réputation.

Cet article s’adresse aux directions générales, aux comités exécutifs et aux responsables de la gouvernance IA qui veulent sortir de cette impasse. Non pas en ajoutant une case RSE dans leurs grilles d’évaluation, mais en reconstruisant la séquence de décision.

Le vernis RSE : anatomie d’un réflexe organisationnel

Claire, directrice de la transformation digitale dans un groupe de services financiers de taille intermédiaire, décrit la séquence habituelle avec une précision désabusée : « On choisit le cas d’usage, on choisit le prestataire, on signe. Puis quelqu’un dans l’équipe communication demande si on a pensé à l’éthique. On produit alors un document. Le document ne change rien au déploiement. »

Cette séquence n’est pas une anomalie. Elle reflète une structure d’incitation où la RSE est portée par une fonction séparée, souvent rattachée à la communication ou aux affaires publiques, sans droit de veto ni budget propre sur les projets technologiques. Dans ce schéma, la responsabilité devient une activité de conformité narrative : on produit les livrables attendus par les parties prenantes externes sans modifier les arbitrages internes.

Eric Sadin, philosophe et critique des technologies numériques, nomme cette posture la « solutionnite éthique » : l’habitude de traiter les enjeux moraux comme des problèmes techniques résolus par l’ajout d’une procédure. L’Algorithmic Accountability Act proposé au Congrès américain et le règlement européen sur l’IA (AI Act) partent précisément du constat inverse : la responsabilité ne se délègue pas à un document ; elle se traduit dans des choix de conception, de données, de périmètre d’usage et de supervision humaine.

Le vernis se reconnaît à plusieurs signes. La RSE entre dans le projet après la décision de financement. Les critères d’évaluation éthique ne sont pas pondérés au même titre que les critères de performance ou de coût. Les résultats de l’évaluation n’ont jamais conduit à l’arrêt ou au repivot d’un projet. Et les équipes qui conduisent ces évaluations ne siègent pas dans les instances où les arbitrages finaux sont rendus.

Gouvernance IA : les trois niveaux où la responsabilité doit être câblée

Repositionner la RSE comme critère de décision suppose de l’intégrer à trois niveaux distincts de la gouvernance : le cadrage initial du cas d’usage, le processus d’approbation projet, et la supervision continue après déploiement.

Au niveau du cadrage, la question n’est pas « notre projet d’IA est-il éthique ? » mais « quel problème cherchons-nous à résoudre, pour qui, et quelles populations ou processus sont susceptibles d’être affectés par une décision algorithmique ? ». Jérôme, data scientist dans une mutuelle de santé, raconte comment l’introduction de cette question en amont d’un projet de scoring des risques a conduit à redéfinir le périmètre d’usage : « On a réalisé que le modèle performait bien en moyenne mais très mal sur les profils atypiques, travailleurs indépendants, expatriés de retour. Ce n’était pas un problème éthique abstrait. C’était un problème de produit. Poser la question RSE dès le cadrage nous a évité de déployer un outil qui aurait créé une deuxième catégorie de clients. »

Au niveau du processus d’approbation, plusieurs organisations ont introduit ce que le NIST (National Institute of Standards and Technology) nomme dans son AI Risk Management Framework un « impact assessment » structuré, conduit avant toute décision d’investissement significative. Cet assessment ne se substitue pas à l’analyse économique ; il l’enrichit en documentant les risques résiduels acceptés et les conditions de supervision requises. L’OCDE, dans ses Principes sur l’IA révisés en 2024, recommande que ces évaluations soient conduites par des équipes pluridisciplinaires incluant des représentants des métiers concernés, pas uniquement des équipes data ou IT.

Au niveau de la supervision continue, la responsabilité post-déploiement suppose des mécanismes concrets : alertes automatiques en cas de dérive de performance, revues périodiques des décisions à fort impact, et canaux de remontée permettant aux opérateurs de signaler des comportements inattendus du système. Sans cette infrastructure, la RSE reste un engagement déclaratoire.

Les biais de données : le point d’entrée le plus sous-estimé

La chercheuse Timnit Gebru, co-auteure de l’étude fondatrice sur les biais dans les modèles de langage et cofondatrice du Distributed AI Research Institute, a documenté avec une précision méthodologique rarement atteinte comment des systèmes techniquement performants reproduisent et amplifient des inégalités existantes lorsque les données d’entraînement reflètent des pratiques historiquement discriminantes. Son travail, largement repris par le Stanford HAI (Human-Centered Artificial Intelligence), a modifié la façon dont les directions RSE les plus avancées envisagent leur rôle : non plus comme gardiennes de la communication externe, mais comme auditeurs des choix de données.

Dans la pratique, cela signifie poser des questions précises lors du cadrage : d’où viennent les données d’entraînement ? Quelle période couvrent-elles ? Quelles populations sont sous-représentées ? Qui a labellisé les données, selon quels critères ? Ces questions ne sont pas réservées aux chercheurs en machine learning. Elles relèvent de la gouvernance et doivent être posées par les instances de pilotage des projets IA.

Laurence Devillers, professeure en intelligence artificielle et membre du Comité national pilote d’éthique du numérique, insiste sur une distinction que les organisations ont intérêt à intégrer : un modèle peut être précis statistiquement et injuste socialement. La précision se mesure sur la distribution globale des cas ; l’injustice se détecte sur les sous-groupes. Une organisation qui optimise uniquement sur la métrique globale de performance se prive de l’information la plus stratégiquement utile : là où son système décide mal, et pour qui.

Concrètement, intégrer cette perspective dans la gouvernance suppose de définir, avant le déploiement, les sous-groupes sur lesquels la performance sera auditée, et d’en faire une condition de go-live au même titre que les seuils de précision globaux.

RSE et IA : ce que font les organisations qui le font vraiment

La distinction entre organisations qui font de la RSE un critère de décision et celles qui en font un vernis se lit dans trois pratiques concrètes, observables sans accès aux données confidentielles.

La première : l’évaluation d’impact est conduite avant la décision de financement, pas après. Cela implique un budget dédié à la phase de cadrage, indépendant du budget projet. Dans les organisations où ce budget n’existe pas, l’évaluation est systématiquement conduite dans la précipitation, par des équipes déjà engagées sur le livrable, ce qui rend impossible toute recommandation d’arrêt.

La deuxième : les résultats de l’évaluation ont, au moins une fois, conduit à modifier substantiellement un projet. Pas nécessairement à l’arrêter, mais à en restreindre le périmètre, à en modifier la structure de supervision humaine, ou à en repousser le déploiement. Une gouvernance RSE qui n’a jamais produit de friction avec les arbitrages économiques n’a pas encore été testée.

La troisième : les équipes RSE ou éthique IA disposent d’un accès direct aux instances de pilotage des projets technologiques, pas d’un droit de rapport a posteriori. Plusieurs organisations européennes ont structuré des comités d’éthique IA avec des membres extérieurs, chercheurs, représentants de la société civile, spécialistes du droit du numérique, qui participent aux revues de projet avant déploiement. Ce modèle, recommandé par la CNIL dans ses lignes directrices sur les systèmes algorithmiques à impact, crée une pression externe structurelle qui complète la gouvernance interne.

Amara, DRH d’un groupe industriel de taille intermédiaire ayant déployé un outil d’aide à la décision RH, résume l’effet de ce changement de posture : « Quand on a commencé à poser les questions RSE en amont, on a découvert que notre outil favorisait structurellement les profils ayant eu des carrières linéaires. Ça ne posait pas seulement un problème éthique, ça posait un problème de performance, parce que les profils atypiques étaient souvent les plus créatifs. L’analyse RSE a servi la qualité de nos décisions de recrutement. »

« Faire croître ce qui compte vraiment, c’est accepter que la responsabilité coûte quelque chose, et que ce coût soit le signe qu’elle opère réellement. », La rédaction Afervescence

Vers une responsabilité qui structure les arbitrages IA

Intégrer la RSE au cœur des décisions IA ne demande pas de renoncer à la performance ni de ralentir systématiquement les projets. Cela demande de modifier la séquence : poser les questions de responsabilité avant les questions de déploiement, doter les équipes qui les portent d’un accès aux instances d’arbitrage, et accepter que les résultats de l’évaluation puissent modifier les choix. Ce repositionnement n’est pas une contrainte supplémentaire imposée aux équipes techniques. C’est une discipline de cadrage qui améliore la qualité des décisions et réduit les coûts de correction en production.

Les organisations qui ont franchi ce pas témoignent d’un effet secondaire inattendu : la clarté. Quand la responsabilité est posée comme critère dès le début, les arbitrages sont plus lisibles, les compromis plus explicites, et les équipes mieux alignées sur ce que le projet est censé produire, et pour qui. Ce n’est pas de l’idéalisme. C’est de la méthode.

Pour aller plus loin, decouvrez notre accompagnement des organisations et notre approche.

Et si la prochaine réunion de cadrage IA commençait non par le budget, mais par la question de qui sera affecté par les décisions du système, et selon quelles règles ?