Regard sur

Les Voies de l’IA – Deepfakes, quand l'IA cherche à nous désinformer

À l'occasion du Sommet pour l'action sur l'Intelligence artificielle organisé à Paris les 10 et 11 février 2025, l’Observatoire de l’IA de l'Université Paris 1 Panthéon-Sorbonne et Sorbonne TV, en partenariat avec France Info, ont lancé "Les Voies de l’IA", une série de podcasts consacrée aux deepfakes.  Cette initiative vise à explorer ces technologies en plein essor permettant de générer des contenus hyper-réalistes pour en décrypter les usages, les dérives ainsi que les défis de leur encadrement juridique. Animé par Pauline Pennanec’h, journaliste à franceinfo, chaque épisode donne la parole à des enseignants-chercheurs, experts et acteurs de la société civile pour éclairer le grand public.  Ce podcast s'inscrit également dans les projets Sorb’Rising et UNA Europa financés par l’ANR dans le cadre de France 2030.

 L’IA au soutien de la désinformation

Une vidéo montrant Barack Obama tenir des propos qu’il n’a jamais prononcés, une fausse allocution du président ukrainien annonçant sa reddition, des voix clonées imitant des personnalités politiques… L'intelligence artificielle générative a ouvert une nouvelle ère de désinformation avec la prolifération de deepfakes  qui peuvent être un moyen redoutable pour façonner le débat public. La démocratisation des outils de génération d'images et d'audios synthétiques a accéléré la production de ces contenus trompeurs, et rend de plus en plus difficile leur détection. 

Alors que 2024 était un année historique sur le plan électoral, la crainte de manipulations de l'opinion publique via la diffusion massive de ces contenus synthétiques par des acteurs nationaux ou étrangers est devenue palpable. Bien que les risques ne soient pas nouveaux, comme l'a illustré le scandale Cambridge Analytica en 2016, la facilité croissante de production de contenus synthétiques réalistes à grande échelle amplifie considérablement ces dangers pour l'intégrité des scrutins et la stabilité des démocraties.

Décryptage avec des experts

Pauline Pennanec’h, journaliste à franceinfo, Célia Zolynski, co-directrice de l’Observatoire de l’IA et Professeure de droit à l’Université Paris 1, Camille Salinesi, co-directeur de l’Observatoire de l’IA et Professeur d’informatique à l'Université Paris 1, ont reçu Katya Lainé, directrice de l’entreprise TALKR.ai et Jean Cattan, secrétaire général du Conseil national du numérique afin de décrypter la production de ces contenus, en particulier les voice fakes qui clonent la voix, et leur utilisation pour conduire des campagnes de désinformation à grande échelle, notamment dans un contexte électoral.

Les Voies de l’IA, un podcast produit en partenariat avec l’Observatoire de l’IA de l’Université Paris 1 Panthéon-Sorbonne, franceinfo et Sorbonne TV, avec le soutien des projets Sorb’Rising et UNA Europa financés par l’ANR dans le cadre de France 2030. 

Ressources complémentaires

👉VIGINUM, Défis et « opportunités » de l’intelligence artificielle dans la lutte contre les manipulations de l’information, https://www.sgdsn.gouv.fr/files/files/Publications/20250207_NP_SGDSN_VIGINUM_Rapport%20menace%20informationnelle%20IA_VF.pdf 


👉IA et élections : retour sur l’événement co-organisé par l'Initiative IA + Société de l'Université d'Ottawa et IVADO, en collaboration avec l'Observatoire de l'IA https://observatoire-ia.pantheonsorbonne.fr/actualite/ia-et-elections-retour-levenement-co-organise-par-linitiative-ia-societe-luniversite

👉Cafés IA du CNNum : https://cnnumerique.fr/annonce/cafe-ia-pour-un-dispositif-collectif-dappropriation-de-la-technologie