Intelligence artificielle et droits fondamentaux : regards transatlantiques

Ces dernières années, de nombreux rapports et avis ont été publiés sur la manière de réglementer et de réguler l’intelligence artificielle (IA). La Commission européenne a présenté une proposition de règlement sur l'intelligence artificielle actuellement en discussion au sein du Conseil et du Parlement européen[1]. Par ailleurs, des travaux sont menés au sein d’un comité sur l’IA du Conseil de l’Europe[2]. D’autres initiatives sont conduites au niveau international, notamment aux États-Unis[3], mais aussi au Canada[4].

C’est dans ce contexte que l'Observatoire a eu l’opportunité d’accueillir différents chercheurs contribuant et/ou analysant ces différentes initiatives :

• Teresa Scassa, professeure titulaire à l’Université d’Ottawa, Chaire de recherche du Canada en droit et politiques de l’information,
• Catherine Régis, professeure titulaire à l’Université de Montréal, directrice de la Chaire de recherche du Canada en droit et politiques de la santé, chercheuse à l'Institut québécois d'intelligence artificielle (MILA),
• Florian Martin-Bariteau, professeur agrégé à l’Université d’Ottawa, Chaire de recherche de l’Université en technologie et société.
• Et enfin, Yannick Meneceur, magistrat en disponibilité au Conseil de l’Europe et maître de conférences associé à l’Université de Strasbourg.

Comparaison des instruments législatifs de l'Union européenne et du Conseil de l'Europe sur l'IA par Yannick Meneceur

Auteur de l'ouvrage « L'intelligence artificielle en procès »[5], Yannick Meneceur est magistrat détaché au Conseil de l’Europe dans le cadre duquel il a notamment pu participer aux travaux du comité ad hoc de l’intelligence artificielle.

Dans son intervention, il compare le droit de l'Union européenne et celui du Conseil de l’Europe en ce qui concerne l'encadrement des systèmes d’IA en démontrant que le principe de réglementer l’IA par du droit contraignant est relativement nouveau. De même, Yannick Meneceur soutient que les droits de l’Homme sont devenus des externalités parmi d’autres problèmes éthiques, par exemple aux côtés de la robustesse ou de l’explicabilité.

La proposition de règlement sur la législation de l’IA adoptée en avril 2021 pose une définition large des systèmes d’IA[6]. Ce texte est caractéristique d'une approche par les risques avec un glissement vers de la compliance. De plus, les enjeux de protection de marché et de l’innovation se confirment notamment à travers la possibilité de prévoir des « bacs à sable ». Le texte mentionne 79 fois le terme de droits fondamentaux. S’il est certes bienvenu de s'intéresser aux effets de bord des SIA sur les droits humains, on peut déplorer une perte de garanties fortes et de mécanismes d'opérationnalisation pour veiller au respect des droits fondamentaux. Le comité sur l’intelligence artificielle du Conseil de l’Europe qui succède au comité ad hoc sur l'intelligence artificielle a pour mandat de créer le premier traité international sur l’IA et les droits fondamentaux. La version V0 de cette convention-cadre a été publiée en janvier 2023[7]. La définition de l’IA n’est toutefois pas alignée sur la définition de l’Union européenne ni sur celle de l’Organisation de coopération et de développement économiques (OCDE). Ce texte pourra s’avérer décevant puisqu’il pose uniquement de grands principes.

Visionnez la vidéo intégrale de l'intervention d'Yannick Meneceur

Lire aussi : Entretien avec Yannick Meneceur sur l'IA et les droits humains

Comment développer des évaluations d'impacts de l'IA sur les droits fondamentaux ? par Catherine Régis

Catherine Régis a participé à l'élaboration de la Déclaration de Montréal pour un développement responsable de l'IA[8] et a récemment co-dirigé l'ouvrage « Angles morts de la gouvernance de l’IA » publié aux presses de l'UNESCO en avril 2023[9]. Elle est par ailleurs co-responsable du Groupe sur l’IA responsable du Partenariat Mondial sur l’IA.

Les travaux de Catherine Régis visent notamment à proposer une évaluation d'impact sur les enjeux éthiques de l’IA afin de réduire l’écart entre les droits fondamentaux et les pratiques des acteurs de l’IA.

Trois constats l’ont amené à travailler sur le sujet. Premièrement, la plupart des travaux actuels se concentrent sur l'articulation des systèmes d’IA (SIA) avec le droit à la vie privée alors que les enjeux sur les droits humains sont bien plus vastes. Deuxièmement, même si une interprétation commune sur les droits humains est parfois possible, il est difficile de les mobiliser de manière pratique alors même que ce besoin est primordial pour les développeurs et les utilisateurs des SIA. Troisièmement, les déclarations d’impact environnemental pourraient inspirer ces études d’impact sur les enjeux éthiques de l’IA en matière de droits fondamentaux. Il s’agit d’examiner l’impact de projets alors qu’ils sont en développement et qu’il est encore possible de les modifier. Cela pourrait notamment aider les déployeurs de SIA à anticiper, évaluer et limiter l’impact de leur SIA sur les droits fondamentaux avant leur utilisation par le grand public et les acteurs gouvernementaux. Dans son intervention, Catherine Régis soutient qu’il est nécessaire de travailler à l’établissement d’études d’impact efficaces en matière d’IA et qui puissent être menées tout au long du système de vie du SIA.

Visionnez dans son intégralité l'intervention de Catherine Régis

Les développements canadiens vers un encadrement de l'IA par Florian Martin-Bariteau

Actuellement chercheur invité du Berkman-Klein Center for Internet and Society à Harvard University, Florian Martin-Bariteau a dirigé un ouvrage collectif au côté de Teresa Scassa intitulé « Artificial Intelligence and the Law in Canada », publié en 2021 aux éditions LexisNexis[10]. 

Florian Martin-Bariteau commence par présenter les principales réglementations existantes au Canada en matière d’IA. Bien que le Canada ne dispose pas d’un encadrement comparable au droit européen, il demeure possible de mobiliser le droit existant pour assurer un cadre de responsabilité pour les utilisations de SIA et les cas de comportements nuisibles. Par ailleurs, la directive sur la prise de décisions automatisée de 2019[11] impose un avis préalable pour qu’une décision administrative soit rendue sur le fondement d’un système automatisé et nécessite un test avant le déploiement de ce système et tout au long de son utilisation notamment par le biais d’une analyse d’impact relative aux algorithmes. Toutefois, il ne s’agit pas d’un cadre contraignant et cet avis ne s’applique qu’à certaines décisions prises par des SIA.

Florian Martin-Bariteau poursuit en expliquant le projet de loi sur l’IA et les données de juin 2022 et actuellement discuté au Parlement. Ce texte, annoncé comme une réponse aux enjeux de l’IA, repose principalement sur des obligations d’information et de transparence avec une approche par les risques. Il a été remarqué que l’intégralité des dispositions est renvoyée à des textes délégués à de futurs règlements qui seront adoptés par le gouvernement fédéral canadien. En outre, l’essentiel des dispositions s’applique aux SIA à très haut risque.

Visionnez l'intervention de Florian Martin-Bariteau dans son intégralité

 IA, vie privée et droits fondamentaux au Canada par Teresa Scassa

Teresa Scassa est l'auteure, la co-auteure et la co-directrice de plusieurs ouvrages sur le droit du numérique[12]. Elle est membre du Conseil consultatif en matière d'intelligence artificielle du Gouvernement du Canada, membre du Comité consultatif de la Commission du droit de l'Ontario sur le projet relatif à l’IA en matière de justice civile et administrative, et siège actuellement à deux groupes de travail sur les politiques de données en Ontario.

Elle démontre dans son intervention que la protection de la vie privée est plus difficile au Canada qu’en Europe puisqu’il existe une protection de l’individu contre les interactions avec les agents de l’État. Par ailleurs, il n’existe pas d’équivalent de la Charte européenne des droits fondamentaux. La protection est issue de la loi canadienne sur la protection des renseignements personnels de 1985[13] qui constitue un alignement avec les législations européennes en matière de protection des données à caractère personnel pour s’assurer de la circulation transatlantique et de la confiance dans le commerce électronique naissant. Teresa Scassa affirme que le contexte de capitalisme de surveillance rend complexe le contrôle par les individus de leurs données et que le consentement seul n’est plus un régime adéquat pour protéger les personnes et la vie privée. Elle a également démontré que le droit de la vie privée collective (group privacy) est important pour la protection des droits de la personne. À l’heure de l’intelligence artificielle, elle soutient un changement de paradigme et une gouvernance des données basées sur le droit des personnes et des principes éthiques.  

Visionnez l'intégralité de l'intervention de Teresa Scassa

L'événement a aussi été l’occasion de faire le point sur l’approche étasunienne concernant l’encadrement de l'intelligence artificielle avec le référentiel NIST sur lequel l'Observatoire a dédié un webinaire en partenariat avec Télécom Paris, les actions de la Federal Trade Commission, la Blueprint for an AI Bill of Rights ou encore les lois fédérales de certains États plus proactifs en matière d’encadrement des SIA.

Revivez en vidéo les échanges entre les intervenants lors de la table ronde finale