Inclusion numérique : qui l’IA laisse-t-elle derrière ?

En 2023, l’AI Index de Stanford recensait plus de 1 800 modèles d’IA fondamentaux mis en circulation dans le monde. Dans le même temps, 13 millions de Français déclaraient rencontrer de sérieuses difficultés face aux démarches numériques, selon l’Agence nationale de la cohésion des territoires. Ces deux chiffres ne se contredisent pas : ils se superposent. La prolifération des systèmes automatisés n’a pas réduit la fracture numérique. Elle lui a ajouté une couche d’opacité supplémentaire, en substituant à des formulaires complexes des interfaces conversationnelles qui présupposent une aisance linguistique, un équipement récent et une connexion stable. Pour les organisations qui se demandent ce que l’IA change vraiment à leur responsabilité sociale, la question n’est plus théorique.

La fracture numérique, un terrain que l’IA ne remodèle pas spontanément

Pendant une décennie, le discours dominant a présenté la numérisation comme un levier d’égalisation des chances. L’accès à l’information, au soin, à l’emploi, à la formation serait désormais universel, débarrassé des frontières géographiques et des intermédiaires coûteux. L’IA s’est inscrite dans ce récit : des chatbots pour orienter les usagers, des algorithmes pour personnaliser les parcours d’apprentissage, des outils de traduction automatique pour abolir les barrières linguistiques.

Sur le terrain, la réalité administrative que documente régulièrement la DINUM, Direction interministérielle du numérique, raconte autre chose. Les ouvriers en reconversion professionnelle de plus de 55 ans, les habitants des zones rurales sans fibre, les personnes en situation de handicap cognitif, les ménages allophones récemment arrivés : ces populations accèdent aux nouveaux outils avec des taux de complétion de parcours numériques deux à trois fois inférieurs à la moyenne nationale. Quand un système d’IA remplace un guichet humain sans prévoir de voie alternative, il ne simplifie pas : il exclut avec plus d’efficacité.

Dominique, conseillère en insertion professionnelle dans un centre social de l’Oise, résume l’enjeu quotidiennement : les personnes qu’elle accompagne ne butent plus seulement sur la compréhension des formulaires. Elles butent sur des chatbots qui ne comprennent pas leur accent, sur des interfaces vocales calibrées pour un français standard, sur des systèmes de vérification d’identité biométrique qui échouent sur des visages aux teintes de peau sous-représentées dans les jeux de données d’entraînement. L’exclusion numérique s’est technicisée.

Les biais algorithmiques, une discrimination qui ne dit pas son nom

La chercheuse Timnit Gebru, cofondatrice du Distributed AI Research Institute, a documenté avec une rigueur qui a coûté son poste chez Google comment les modèles de langue reproduisent et amplifient les préjugés présents dans leurs données d’entraînement. Ce n’est pas une fatalité technique : c’est un choix d’architecture, de sélection des données et de définition des métriques de performance. Quand la performance d’un modèle se mesure exclusivement sur des locuteurs natifs anglophones de classe moyenne, les autres usagers paient le prix de cette définition restrictive.

En France, le sujet a émergé dans le débat public autour des algorithmes de tri de CV, des systèmes de scoring crédit et, plus récemment, des outils d’orientation scolaire. Le rapport 2022 de l’AI Now Institute a mis en évidence que les systèmes automatisés déployés dans des services publics reproduisent statistiquement les inégalités historiques d’accès, précisément parce qu’ils apprennent sur des historiques de décisions humaines elles-mêmes biaisées. Corriger ce mécanisme exige une intention délibérée : auditer les jeux de données, définir des métriques d’équité explicites, tester les systèmes sur les populations les plus exposées avant tout déploiement à grande échelle.

Karim, data scientist dans une startup de recrutement, a vécu cette tension de l’intérieur. Son équipe avait développé un outil de présélection de candidatures qui surperformait sur les profils issus de grandes écoles. Lorsqu’ils ont testé le même modèle sur des candidats ayant suivi des parcours de formation continue ou des validations des acquis de l’expérience, le taux de faux négatifs bondissait. Le modèle n’était pas malveillant : il était entraîné sur dix ans de recrutements réussis dans des entreprises où ces profils n’avaient jamais eu leur chance. Karim a convaincu sa direction de revoir les métriques. Cela a pris six mois et une résistance réelle du côté commercial.

Les acteurs solidaires, entre expérimentation et passage à l’échelle

Face à ce constat, plusieurs acteurs construisent des réponses qui méritent d’être regardées sérieusement, au-delà de la communication institutionnelle. Les Bibliothèques Sans Frontières ont déployé des hubs numériques dans des camps de réfugiés et des quartiers prioritaires, en intégrant des médiateurs humains capables d’accompagner les usagers face à des interfaces automatisées. La médiation numérique humaine n’est pas un palliatif en attente de disparaître : elle est une infrastructure de justice.

Des collectifs comme Framasoft développent des alternatives aux grandes plateformes en priorisant l’accessibilité et la souveraineté des données, notamment pour des associations travaillant avec des publics vulnérables. Dans le secteur de l’emploi, l’association Simplon forme des personnes éloignées du marché du travail aux métiers du numérique, en incluant explicitement des modules sur les limites et les biais des outils d’IA qu’elles seront amenées à utiliser ou à subir.

Ces initiatives partagent une caractéristique commune : elles partent de l’usage réel, pas de la promesse technologique. Elles commencent par observer qui est exclu, avec quelle intensité et pour quelles raisons, avant de choisir l’outil. Cette inversion méthodologique devrait être la norme dans toute organisation qui déploie des systèmes automatisés touchant à des droits fondamentaux : accès aux soins, à l’emploi, au logement, à la formation.

L’OCDE, dans ses principes sur l’IA adoptés par 46 pays, a posé l’exigence d’une IA centrée sur l’humain et inclusive comme condition non négociable d’un déploiement responsable. Cela ne suffit pas à changer les pratiques. Mais cela donne aux directions générales et aux conseils d’administration un cadre pour exiger des engagements mesurables de leurs équipes techniques et de leurs prestataires.

La responsabilité des organisations, au-delà de la conformité réglementaire

L’AI Act européen, entré progressivement en vigueur depuis 2024, impose des évaluations de risque pour les systèmes d’IA à fort impact. Les systèmes utilisés dans l’accès aux prestations sociales, à l’éducation ou à l’emploi sont classés à haut risque, avec des obligations d’auditabilité et de contrôle humain. La conformité réglementaire délimite un plancher minimal. Elle ne dessine pas un horizon.

Pour une direction générale ou un comité exécutif, la question est différente : quel usage concret de l’IA dans nos processus crée une exclusion que nous n’avons pas choisie mais que nous tolérons ? Un outil de scoring client qui pénalise statistiquement les clients en zones rurales peu denses ? Un système de relation client automatisé qui oriente systématiquement les personnes âgées vers un selfcare qu’elles ne maîtrisent pas ? Un algorithme de planification des équipes qui reproduit des schémas de disponibilité incompatibles avec certaines contraintes familiales ?

Ces questions ne relèvent pas uniquement de la DSI ou du CDO. Elles engagent la direction des ressources humaines sur les conditions de travail et les compétences attendues. Elles engagent les directions métiers sur la définition même de ce qu’est un service de qualité. Elles engagent les fondations et les instances de gouvernance sur la cohérence entre les engagements RSE affichés et les architectures techniques déployées.

La philosophe et chercheuse Laurence Devillers, spécialiste de l’IA affective, rappelle régulièrement que les systèmes automatisés amplifient les intentions de ceux qui les conçoivent et les déploient. Si l’intention d’inclusion n’est pas explicite, opérationnalisée et mesurée, l’IA optimisera autre chose : la vitesse de traitement, le coût unitaire, le taux de satisfaction des utilisateurs les plus habiles. Les autres disparaissent des métriques.

Les organisations qui choisissent de faire croître ce qui compte vraiment ne demandent pas à l’IA de résoudre l’inclusion à leur place. Elles posent d’abord la question de qui elles veulent servir, puis elles choisissent leurs outils en conséquence., La rédaction Afervescence

Vers une inclusion numérique qui se mesure autrement

Réduire la fracture numérique amplifiée par l’IA exige de déplacer les indicateurs de succès. Taux d’adoption, volume de requêtes traitées, coût par interaction : ces métriques ne disent rien sur qui accède au service et qui en est exclu. Des organisations pionnières commencent à intégrer des indicateurs d’équité dans leurs tableaux de bord : taux d’accès par segment de population, écart de complétion selon le profil d’usager, volume de recours humains maintenu volontairement comme filet de sécurité.

Cette mesure différente suppose un choix politique interne : accepter que la performance d’un système automatisé ne se lise pas uniquement sur ses meilleurs utilisateurs, mais sur la qualité du service rendu à ses utilisateurs les plus fragiles. Ce choix n’est pas naturellement produit par les équipes techniques. Il doit être posé par les dirigeants, inscrit dans les cahiers des charges, vérifié par les instances de gouvernance.

Les acteurs solidaires qui ont construit des pratiques robustes en médiation numérique constituent une ressource que les grandes organisations sous-utilisent. Intégrer leurs retours d’expérience dans la conception des systèmes, cofinancer des infrastructures d’accompagnement humain là où les outils automatisés échouent, publier des bilans d’accessibilité vérifiables : ces engagements concrets distinguent les organisations qui prennent l’inclusion au sérieux de celles qui s’en réclament dans leur communication.

L’IA ne laisse pas des personnes derrière elle par accident. Elle laisse derrière celles que ses concepteurs et ses déployeurs n’ont pas choisi de considérer comme des utilisateurs légitimes. Changer cela est un acte de gouvernance, pas une promesse technologique.

Pour aller plus loin, decouvrez notre accompagnement des organisations et notre approche.

Et si le premier indicateur de maturité IA d’une organisation était le nombre de personnes qu’elle a cessé d’exclure ?