Entretien avec Claude Kirchner sur l'éthique du numérique

Le contexte de la création et les missions du Comité national pilote d’éthique du numérique (CNPEN)

Claude Kirchner : Les réflexions sur l'éthique du numérique et de l’IA datent du début des années 1970 même si elles ont réellement émergé dans l'ensemble de leurs impacts essentiellement à partir des années 2000 et notamment 2010. Nous discutons donc de réflexions qui existent depuis une cinquantaine d'années, mais qui ont réellement explosé depuis une dizaine d'années. Le rapport du mathématicien et Député Cédric Villani intitulé “Donner à sens à l'intelligence artificielle”a mis en avant la nécessité de mettre en place un comité national d'éthique du numérique et de l'intelligence artificielle. Des groupes de réflexions étaient déjà en place soit au sein d’instituts de recherches comme le CNRS et l’Inria soit dans certaines universités, ou plus récemment au sein du CCNE.

À la demande du Premier ministre au Président du CCNE, un comité pilote a été mis en place sous l’égide du CCNE pour une durée initiale de dix-huit mois. Vingt-sept personnes issues d’horizons différents et complémentaires, parmi lesquelles cinq siégeaient aussi au CCNE, ont été nommées pour aborder de manière globale les enjeux d’éthique du numérique. Nous avons donc commencé à travailler en décembre 2019, à la veille de la pandémie. Notre rôle étant d’éclairer les décisions tant individuelles que collectives en veillant à la sensibilisation et à l’information de la société civile, des institutions publiques ou privées et du gouvernement. 

Les principaux rapports publiés par le Comité pilote d’éthique du numérique

Claude Kirchner : Nous avons commencé à travailler en décembre 2019 sur les trois saisines initiales du Premier ministre. Elles traitent respectivement des enjeux d’éthique du véhicule « autonome », des agents conversationnels (les chatbots) et du diagnostic médical intégrant des techniques d’intelligence artificielle.

La pandémie a commencé aux débuts de 2020 et nous nous sommes retrouvés rapidement en confinement. Nous avons alors livré une série de bulletins sur les enjeux d’éthique du numérique en période de crise sanitaire. Chronologiquement, notre premier bulletin a été consacré d’une part aux questionnements éthiques liés à l’usage des outils numériques dans le cadre d’actions de fraternité, et d’autre part aux enjeux éthiques liés aux suivis numériques pour la gestion de la pandémie[1]. Ce qui montre en particulier l’étendue des considérations d’éthique du numérique à prendre en compte. Puis nous nous sommes intéressés aux enjeux de désinformation et de mésinformation dans le cadre de la pandémie dans la mesure où dans ce contexte particulier ils étaient d’autant plus importants[2]. Nous avons aussi travaillé sur les enjeux d’éthique de la télémédecine et du télésoins avec des recommandations sur la meilleure façon de pouvoir à la fois prendre en compte les aspects sociaux, les impératifs de recherche scientifique, le respect de la vie privée et les aspects de régulation éventuels[3].

Le confinement a commencé à être levé à partir de mai 2020 et nous avons pu publier nos avis sur les enjeux d’éthique des véhicules « autonomes » en avril 2021[4], puis sur les agents conversationnels et leurs enjeux d’éthique en novembre 2021[5]. Nous avons aussi réalisé un avis sur une saisine spécifique du secrétaire d’État chargé du numérique et du ministre de la Santé sur l’utilisation des outils numériques en sortie du confinement (utilisation de bases de données, conception, utilisation et suivi de ce que nous appelons maintenant « TousAntiCovid »)[6]. Nous avons par ailleurs donné notre avis au niveau européen sur le positionnement européen en termes de numérique et d’IA[7].

Nous travaillons actuellement sur d’autres sujets incluant les enjeux d’éthique de la reconnaissance faciale, posturale et comportementale, les plateformes de données de santé, le diagnostic médical et l’IA (tous deux en commun avec le CCNE) ainsi que la réalité augmentée.

Quelle définition retenir de l’intelligence artificielle ?

Claude Kirchner : Il y a un point essentiel à retenir dans l’expression « intelligence artificielle ». Il s’agit du nom d’un domaine scientifique et technologique. Ce domaine scientifique aurait pu s’appeler de manière plus académique, mais pour des raisons historiques, il a été dénommé Intelligence Artificielle, favorisant les fantasmes induits par les deux termes « intelligence » et « artificiel ». Ce domaine scientifique est en particulier bien défini par le texte européen précisant les trois thèmes suivants :

• les approches d’apprentissage machine (supervisé, non supervisé, plus ou moins profondes),
• les approches logiques et basées sur la connaissance et la représentation des connaissances. Cela concerne tous les aspects de programmation logique, d'inférence et de déduction logique ainsi que les systèmes experts,
• et enfin, les approches statistiques et les méthodes de recherche et d'optimisation.

Ce sont là sur des thématiques scientifiques combinant les disciplines informatique, mathématique et de représentation des connaissances.

Les principaux impacts sociaux de l’intelligence artificielle

Claude Kirchner : Comme nous l'indiquons dans notre manifeste « Pour une éthique du numérique » publié en 2021, je cite : « le numérique est porteur d’enjeux et d’opportunités, d’espoirs et de craintes »[8]. C’est parce que nous sommes dans cette situation d’intérêts majeurs pour les êtres humain qu’« il bouleverse le rapport à l’autre par un phénomène de virtualisation et d’amplification des échanges, mais aussi de quantification et d’évaluation de plus en plus systématiques. »

Nous sommes ainsi amenés à donner des avis sur les chauffeurs, les médecins et tant d’autres choses de manière de plus en plus fine. Pourtant, comme indiqué dans notre manifeste, cette « numérisation de nos vies est ressentie sans que nous n’en percevions toutes les conséquences ; cette invisibilité et cette imprégnation du numérique accroissent sa capacité de transformation. » Ainsi, comme l’exprime si bien Michel Serres, le numérique, en tant que système de traitement d’information, tout comme nous, émet, reçoit, mémorise et traite de l’information. Dans cette relation entre les systèmes de traitement d’information biologique et numérique, les membres du CNPEN ont ainsi affirmé que « le numérique modifie et interroge durablement la relation individuelle et collective à la connaissance, à la mémoire, à l’espace, à la propriété, à la santé, au travail et à l’environnement. Il interroge la notion d’intimité à travers l’exposition de la vie privée à une échelle inédite dans l’histoire humaine. »

Les principaux points de vigilance concernant l’usage des systèmes d’intelligence artificielle

Claude Kirchner : L’IA, je le rappelais plus haut, est un domaine scientifique et technologique. C’est donc un ensemble de concepts, de méthodes, d’outils, de technologies numériques que nous avons développés. Il faut maintenant apprendre non seulement à se servir du numérique, mais aussi à comprendre comment il fonctionne. Ainsi, sachons nous demander comment sont stockées nos photos et s’il sera encore possible d’y accéder dans 6 mois, 10 ans ou 500 ans ?

Sachons nous demander et comprendre quel type de réseau nous utilisons, quel impact environnemental notre utilisation des différents logiciels, services, plateformes génère-t-elle ? L’un des points de vigilance est de savoir de quelle information et de quelle conscience dispose l’utilisateur à propos de ces enjeux. Quels équilibres doivent-ils exister entre les apports et les contraintes respectivement individuels et collectifs ? Quels impacts le numérique et l’IA ont-ils sur notre société ou encore sur la démocratie ? En particularisant encore davantage, quels impacts ont-ils sur le fonctionnement de mon entreprise ou encore sur celui de ma famille ?

Quelle(s) éthique(s) du numérique ?

Claude Kirchner : Dès que l’humain a existé et pris conscience, il a développé une réflexion sur les valeurs et les principes fondant son existence et ses relations avec les autres. Parmi les multiples définitions de l’éthique, je trouve concise et claire celle du dictionnaire de l'Académie française selon laquelle l’éthique désigne une « réflexion relative aux conduites humaines et aux valeurs qui les fondent, menée en vue d’établir une doctrine, une science de la morale »[9]. Il s’agit là de la définition générique qui peut être complétée par une méthodologie mettant en avant soit l'efficacité, soit l’utilité ou encore des principes et des règles spécifiques en se tournant dès lors plus vers des aspects déontologiques. La façon d’organiser cette réflexion va donner lieu à différentes classes d’éthique, qui n'intéressent pas toujours les individus, mais qui sont des champs d’élaboration de la pensée. Ce qui est important à retenir globalement c’est que l’éthique est d’abord et surtout une réflexion pour se préparer à pouvoir décider individuellement ou collectivement !

Faire de l’usage éthique des systèmes d’intelligence artificielle un élément de compétitivité

Claude Kirchner : À mon sens, l’éthique du numérique et de l’intelligence artificielle est aussi un argument de compétitivité pour les entreprises. Dans leur fonctionnement interne, les entreprises qu’elles soient publiques ou privées ont clairement des difficultés de recrutement. L’une des raisons de cet empêchement réside dans le fait qu’il n’est pas rare que les valeurs de l’entreprise ne correspondent pas à celles des candidats potentiels, en quête d’une adéquation entre leurs valeurs personnelles et celles de l’entreprise dans laquelle ils souhaitent pouvoir s’investir. Par ailleurs, dans un contexte de forte concurrence aux niveaux national, européen et particulièrement international, un usage éthique de l’IA est non seulement possible, mais il a surtout une portée stratégique. On ne peut pas ignorer ces aspects et il s’agit d’une des raisons pour lesquelles il me paraît fondamental que l’on puisse aider à la réflexion sur l’éthique du numérique et de l’IA. C’est typiquement le travail d’un comité national d'éthique du numérique pour éclairer et fertiliser la réflexion éthique à tous les niveaux, personnel, familial, associatif, professionnel, local ou national.  

Il y a également des enjeux importants à comprendre la diversité culturelle internationale et à la prendre en compte dans la conception et l’utilisation même du numérique et de l’IA. Cette nécessité et cet intérêt de pouvoir mieux se comprendre inter-culturellement figurent parmi les grands défis qui nous attendent. En effet, le numérique est omniprésent, et notre planète unique pour tous, est de plus en plus petite par rapport à ce qu’on lui demande. Il faut comprendre comment la gérer ensemble. Le numérique dont l’intelligence artificielle joue de ce point de vue un rôle essentiel sans lequel notre planète ne pourra pas nous permettre de faire vivre dignement et en paix les presque dix milliards d’habitants humains qu’elle va bientôt compter.

Développer l'esprit critique et l’éducation au numérique 

Claude Kirchner : L’esprit critique et l’éducation au numérique me semblent essentiels dans le contexte national et global que nous venons d’évoquer. Il faut aider petits et grands, entreprises et associations, local et national à se positionner par rapport aux réflexions et aux avis émis par les comités d’éthique qui développent du prêt à (aider à) penser, mais pas du prêt-à-porter ! Il faut se donner les outils et les lieux d’échange et de réflexion pour être critique par rapport aux positionnements existants, mais aussi à ses propres usages.

Cette formation à l'esprit critique est importante bien que cela ne me semble pas être actuellement le point le mieux développé de notre système éducatif. Si la pratique de l’esprit critique est importante, un point difficile en France et que l’on a du mal à gérer est le débat : il faut être capable de discuter ensemble et d'échanger les points de vue de façon à pouvoir évoluer collectivement. Il faut pour cela développer l’esprit critique au niveau individuel et collectif. Il faut savoir échanger, être constructif, mettre en place une conversation. Notre éducation devrait bien davantage prendre ceci en compte. Il conviendrait que dès l’école maternelle, au collège, au lycée et à l’université, on soit mieux équipé intellectuellement pour arriver à présenter nos opinions, savoir les discuter, les mettre en jeu et savoir prendre du recul par rapport à cela.