Entretien avec Lucien Castex sur le numérique, l'intelligence artificielle et les droits fondamentaux

La Commission nationale consultative des droits de l’Homme et ses missions

Lucien Castex : Certaines autorités publiques sont parfois méconnues du grand public à l’instar de la Commission nationale consultative des droits de l’homme (CNCDH). ​​Cette institution collégiale a été fondée en 1947, à l’initiative de René Cassin, prix Nobel de la Paix. La CNCDH est l’institution nationale de protection et de promotion des droits de l’Homme en France, accréditée au rang A auprès des Nations Unies.

La CNCDH fonde son action sur trois grands principes. Tout d’abord, son indépendance qui est inscrite dans la loi n° 2007-292 du 5 mars 2007. Ensuite, son pluralisme puisque la CNCDH est composée de 64 personnalités qui représentent la diversité de la société et des opinions en France sur les questions liées aux droits de l’Homme. Enfin, son devoir de vigilance en ce qui concerne le respect et la mise en œuvre des droits de l’Homme en France.

En tant qu’Institution nationale des droits de l’homme, la CNCDH a trois missions principales. La première mission consiste à conseiller les pouvoirs publics (Gouvernement et Parlement) en matière de droits de l’Homme au sens large. Ainsi, la CNCDH réalise des avis sur des sujets qui présentent des enjeux en matière de droits de l’Homme soit sur saisine soit sur auto saisine. Pour ce faire, la CNCDH fonctionne avec des sous-commissions. La sous-commission urgence a été mise en place pour traiter les questions dont l’urgence impose un examen immédiat, notamment face à l’accélération du temps législatif et les travaux en procédure accélérée. Cela a été le cas de ce dernier quinquennat durant lesquels des textes étaient émis dans l’urgence, ce qui réduit la capacité à préparer des avis. Un avis peut ainsi être émis dans le cadre de l’examen d’un texte de loi, de même que des travaux de fond ; avis comme les rapports indépendants dont la Commission est chargée dans le cadre de ses mandats. C’est ainsi le cas du mandat de Rapporteur national indépendant concernant la politique publique en faveur de l’effectivité des droits des personnes handicapées confié par le Premier ministre fin 2020. Une deuxième mission est celle de contrôler le respect par la France de ses engagements internationaux en matière de droits de l’Homme. Enfin, il y a une mission transversale qui consiste à éduquer aux droits d’humains, bien sûr par le biais des avis, mais aussi des actions de sensibilisation avec des partenaires. Par exemple, la Fondation pour la mémoire de l’esclavage et la Commission nationale consultative des droits de l’homme ont signé un partenariat à l’occasion de la journée mondiale de lutte contre l’esclavage des enfants en avril 2021.

La CNCDH chapeaute également d’autres missions. Elle a des mandats de rapporteur national indépendant notamment sur la traite et l’exploitation des êtres humains ou sur le racisme. La 31e édition du rapport sur le racisme, l’antisémitisme et la xénophobie est ainsi parue en juillet 2022. Cela montre la nécessité d’avoir une institution capable de produire de tels rapports chaque année ainsi que des avis sur les droits de l’Homme au fil de l’eau. Par ailleurs, le Prix des droits de l’Homme de la République française « Liberté - Égalité – Fraternité » est décerné par la CNCDH à des femmes et hommes, défenseurs qui agissent quotidiennement sur le terrain pour la promotion et la protection effective des droits de l’Homme. Le thème de l’année 2022 porte sur les droits sexuels et reproductifs en lien avec les droits des personnes LGBTIQIA+ et les inégalités de genre.

La doctrine développée par la CNCDH sur le numérique

Lucien Castex : La doctrine de la CNDH sur le numérique est à la fois stable et dynamique, ce que témoigne la lecture des nombreux travaux sur le numérique produits ces dernières années. Le constat commun est que le numérique hybride la société de manière transversale. Dans le cadre des mandats de la CNCDH comme rapporteur indépendant, le numérique est identifié comme un sujet clef de société. Lors de la précédente mandature, le numérique a été considéré comme une extension de l’espace public. Il a été convenu d’appréhender la manière dont les droits et libertés fondamentaux s’appliquent sur Internet à l’instar de la liberté d’expression ou de la protection de la vie numérique. En définitive, il s’agit d’une approche transversale de l’objet numérique. La CNCDH s’efforce d’avoir cette approche en se saisissant du numérique, en relevant la thématique dans son contexte.

Lors de la proposition de loi contre les contenus haineux sur Internet, la CNDH a rendu un avis en exploitant sa doctrine existante sur la haine. La haine en ligne a donc été appréhendée de manière large avec le fait que le numérique était un facteur aggravant ou spécifiant. Nous sommes partis de l’attachement de la commission au respect de la liberté d’expression et de l’objectif légitime de lutte contre la haine en ligne. Il faut comprendre ce qu’apporte le numérique tout autant que les risques que le numérique entraîne par exemple en termes de propagation des contenus, notamment en considérant Internet comme une extension de la place publique.

La CNCDH soutient un équilibre protecteur des droits de l’homme en matière de numérique. Internet n’a jamais été une zone de non-droit. Cependant il y a parfois une difficulté à mettre en œuvre les lois sur Internet. Prenons l’exemple de la liberté d’expression et de communication, ferment de la société démocratique : elle s’applique sur Internet, mais cela nécessite des précisions ou des adaptations. Il n’y a pas une nécessité d’avoir des droits spécifiques sauf cas particulier. Dans les recommandations de la Commission, il y a le renforcement de la politique en matière d’éducation au numérique, et cela tant dans le cycle secondaire que supérieur et toute la vie. C’est une recommandation qui a également été émise dans l’avis du 7 avril 2022 intitulé « Intelligence artificielle et droits humains : Pour l’élaboration d’un cadre juridique ambitieux ». Il s’agit de comprendre ce que recouvrent les systèmes d’intelligence artificielle, de clarifier les situations et d’accompagner les utilisateurs. L’avis sur l’IA se situe entre deux temporalités : d’une part, l’IA s’immisce dans des projets et propositions de lois qui nécessitent le positionnement de la CNCDH et d’autre part, d’autres sujets relatifs à l’IA impliquent des travaux plus longs qui ne peuvent pas être tributaires du temps législatif.

Le manque de clarté de l’expression « intelligence artificielle »

Lucien Castex : La question « est-il correct d’employer l’expression intelligence artificielle ? » s’est bien entendu posée. Or il n’y a pas vraiment d’intelligence au sens strict. Sur ce point, il y a eu des discussions fouillées lors de la préparation de l’avis, entamées lors de l’avis sur la haine en ligne de juillet 2021. Le rapprochement entre intelligence humaine et intelligence artificielle fonctionne dans les médias, mais cela induit une confusion. Comprendre ce que sous-tend peut induire en confusion. Le grand public voit ce qui n’existe pas encore, à l’instar d’humanoïdes ou de robots capables de penser. Cela ne rend pas compte des systèmes algorithmiques actuels. C’est la raison pour laquelle, en préambule de son avis sur l’intelligence artificielle et droits humains, la CNCDH recommande aux institutions publiques et aux médias de privilégier une terminologie plus neutre et objective que l’expression « intelligence artificielle ». La commission propose à cet égard l’expression de systèmes algorithmiques d’aide à la décision qui est plus englobante et plus neutre.

La synthèse de l’avis de la CNCDH relatif à l’impact de l’intelligence artificielle sur les droits fondamentaux (avril 2022)

Lucien Castex : L’avis du 7 avril 2022 sur l’IA et les droits fondamentaux a été adopté en plénière à l’unanimité, ce qui est intéressant à noter vu la difficulté du sujet. Une réflexion transversale sur l’IA a été menée au sein de la Commission à laquelle s’ajoutent plus d’une trentaine d’auditions pour aboutir à cet avis. Des travaux autour de l’IA sont conduits depuis un certain moment, à l’exemple en 2019 de l’avis sur la haine en ligne. Il faut également souligner la richesse de la composition de la CNCDH qui garantit la qualité des débats menés et permet d’apporter tant une expertise technique qu’un prisme comme celui de l’extrême pauvreté etc.

Nous avons voulu un avis relativement court. Il s’agissait d’envisager l’IA de manière transverse, c’est-à-dire l’impact du déploiement des systèmes d’IA vis-à-vis des droits fondamentaux avec différents cas d’usage comme l’IA et la santé ou encore la reconnaissance faciale. La Commission se réserve la possibilité de réaliser des avis spécifiques abordant l’IA pour décliner l’analyse à des domaines qui nécessitent une analyse particulière.

Un autre point important est que l’avis vise à nourrir le débat de société vis-à-vis de l’IA. La CNCDH invite donc les pouvoirs publics à promouvoir un encadrement juridique ambitieux en matière d’intelligence artificielle. 19 recommandations sont formulées dans l’avis avec deux ambitions : fixer un cadre et poser la question de l’IA en termes de droits et libertés fondamentaux. L’IA n’est pas qu’une question technique. Il s’agit aussi, de protection des libertés, de protection des données personnelles, de l’innovation. C’est toutes ces questions à la fois et les droits et libertés fondamentaux doivent être au cœur du débat !

Les lignes rouges concernant l’usage des systèmes d’IA

Lucien Castex : Nous avons défini des lignes rouges, autrement dit ce qu’il faudrait proscrire comme usages de l’IA. La CNCDH a donc précisé et complété la liste des interdictions posées par le projet de règlement européen à savoir :

• La mise en place de tout type de notation sociale par les administrations ou les entreprises publiques ou privées ;
• L’identification biométrique à distance des personnes dans l’espace public et les lieux accessibles au public ;
• L’utilisation de technologies de reconnaissance des émotions.

Pour certains usages, dont les procédures juridictionnelles, la CNCDH considère qu’il est essentiel d’approfondir la réflexion avant d’envisager l’utilisation de l’IA.

Il faut aussi des garanties à mettre en place pour que les systèmes soient respectueux des droits et libertés fondamentaux. Une supervision des systèmes d’IA est nécessaire tout au long de son cycle de vie, cela s’inscrivant d’ailleurs dans le cadre d’une réflexion européenne. De même, une approche fondée sur les droits de l’Homme est essentielle afin d’en assurer l’effectivité : consacrer la place de l’humain, laisser le choix, être en mesure d’assurer un contrôle et une supervision des systèmes d’IA.

Pour citer un autre point important de l’avis, la Commission a recommandé une réévaluation régulière de l’impact de l’IA sur les droits fondamentaux et une extension dans la proposition de règlement sur l’IA des études d’impact aux utilisateurs des systèmes d’IA.

La création de nouveaux « droits à » pour les individus

Lucien Castex : Dans le cadre des interactions homme-machine et d’une approche plus globale sur le paramétrage des interfaces, il faut ainsi reconnaître la capacité de l’utilisateur à agir sur l’interface. Il y a une réflexion sur les droits-créances notamment en matière de droits fondamentaux qui est celle de la prétention légitime à obtenir des « droits à ». C’est la question de ce que le citoyen serait en mesure d’exiger de la part de l’État et de la société.

Le paramétrage, il s’agit d’un point clef qui est revenu lors des auditions et des débats. Les individus sont confrontés à des difficultés pour désactiver — ou activer — une fonctionnalité ou pour accéder à l’information qu’une fonctionnalité est activée. La Commission recommande enfin de développer des outils d’information à destination du grand public et d’introduire la thématique l’Intelligence artificielle à l’école. Autrement dit, il est urgent de redonner la main à l’utilisateur.

Lire ici l’article de présentation de l’avis de la CNCDH : Que préconisent la CNIL et la CNCDH dans leurs derniers travaux sur l’IA ?