L’AFCNDH, réseau francophone des INDH, a organisé le 19 novembre 2025 son premier webinaire consacré à l’intelligence artificielle (IA). Le réseau souhaite engager une réflexion commune sur le rôle des INDH dans l’articulation entre droits humains et intelligence artificielle et, à ce titre, a invité plusieurs INDH à partager leurs expériences et bonnes pratiques sur ce sujet.
L’INDH française : Un historique d’alertes et de recommandations
La Commission Nationale Consultative des Droits de l’Homme (CNCDH) est revenue sur les étapes majeures de son engagement face aux usages croissants de l’IA :
- Depuis 2015, la CNCDH alerte sur les risques des algorithmes en ligne favorisant la diffusion de discours haineux ;
- 2015 : publication d’un avis sur le projet de loi relatif au renseignement, qui prévoyait un traitement automatisé des données de connexion ;
- 2021 : constatant la dynamique européenne autour de l’IA, la CNCDH publie un avis structurant sur l’impact de l’IA sur les droits fondamentaux ;
- 2024, la CNCDH publie un avis défavorable à l’expérimentation de la vidéosurveillance algorithmique (VSA).
La CNCDH fonde son travail sur trois axes :
- Définir des lignes rouges claires : identifier des usages de l’IA intrinsèquement attentatoires aux droits fondamentaux, notamment les systèmes de scoring social, de prédiction de risque, ou encore d’identification biométrique ;
- Assurer un contrôle à chaque étape de l’usage de l’IA : réaliser une étude d’impact sur les droits fondamentaux avant et pendant l’utilisation d’un système d’IA ;
- Garantir un droit au recours effectif afin d’agir sur l’explicabilité des décisions automatisées : un contrôle humain réel doit éviter le biais d’automatisation, et les personnes concernées doivent être clairement informées lorsqu’une décision les concernant repose sur l’IA.
La CNDH du Sénégal : Engagement croissant dans le sujet de l’IA
La Commission Nationale des Droits de l’Homme du Sénégal a partagé son expérience dans un pays où le gouvernement a déjà adopté une stratégie nationale et une feuille de route dédiées à l’IA.
Pour évaluer les risques de l’IA sur les droits humains, la CNDH préconise d’utiliser une grille fondée sur la gravité, la probabilité, et la taille de la population affectée.
Certaines atteintes aux libertés fondamentales ont déjà été constatées :
- Reconnaissance faciale et biométrie en milieu urbain ;
- Usage de logiciels espions dans le cadre du contrôle parlementaire ;
- Intégration durable de dispositifs d’exception dans le droit commun.
Groupe de travail sur l’IA de l’ENNHRI : renforcer les capacités des INDH européennes
Pour la représentante de l’UNIA et du groupe de travail IA de l’ENNRHI, les INDH sont idéalement placées pour intervenir sur le sujet de l’IA, mais elles doivent disposer de ressources adaptées.
Depuis 2022, l’ENNRHI fait de l’IA une priorité :
- Création d’un groupe de travail dédié ;
- Renforcement de capacités et formations pour les INDH européennes ;
- Définition des positions communes sur la régulation européenne de l’IA.
Elle soutient notamment les évaluations d’impact sur les risques fondamentaux, et insiste sur la nécessité de préserver la substance de ces évaluations. L’ENNRHI alerte également sur l’effectivité du droit de recours, l’inclusion des préjudices collectifs ou encore la participation significative des parties prenantes.
Échanges avec les participants : un besoin partagé de renforcement des capacités
Les participants ont souligné plusieurs enjeux transversaux :
- L’urgence de renforcer les capacités internes des INDH pour suivre, comprendre et encadrer l’IA ;
- La montée de la désinformation liée à l’IA, qui peut entraver le suivi des violations des droits humains ;
- L’importance de jouer un rôle actif dans l’espace public.