Intelligence artificielle et fake news, un cocktail qui fait trembler nos démocraties

La commission d’enquête du Sénat sur les politiques publiques face aux opérations d’influence étrangère s’intéresse de près au rôle grandissant de l’intelligence artificielle (IA). Avec l’audition ce mardi 9 avril de deux journalistes d’investigation, Thomas Huchon, spécialiste de la désinformation, et Gérald Holubowicz, spécialiste de l’IA et enseignant à Science Po.

Avant de répondre aux questions des élus, les deux journalistes se sont prêtés à une entrée en matière plutôt inhabituelle dans ce type d’exercice, manière pour eux d’illustrer les capacités de mimétisme troublantes de l’intelligence artificielle générative.

Thomas Huchon a présenté aux sénateurs une vidéo synthétique, ou « deepfake » selon le terme couramment utilisé : un clip entièrement réalisé par une IA et dans laquelle un double numérique du journaliste prend, tour à tour, la voix de Jean-Luc Mélenchon, de Gabriel Attal, de la chanteuse Angèle… ou encore celle du président de la commission d’enquête, le sénateur LR Dominique de Legge.

« Il nous a suffi de récupérer un extrait de deux minutes d’un discours que vous aviez prononcé, et de le donner à manger à une intelligence artificielle pour lui faire dire ce que l’on veut », résume le journaliste. La manipulation n’a pris qu’un quart d’heure.

Quelques minutes plus tard, Gérald Holubowicz reproduit l’opération, cette fois avec un enregistrement sonore de la voix du rapporteur socialiste Rachid Temal : « Je suis le sénateur Rachid Temal, et je vous rappelle que je ne suis en aucun cas responsable des mots qui sont prononcés à cet instant », lâche la voix qui imite à l’identique, et devant l’intéressé, le ton grave et particulièrement identifiable du sénateur du Val-d’Oise.

Mais passé l’amusement de ce petit préambule, c’est l’effroi qui a rapidement pris place sous le plafond de la salle Médicis, face au tableau relativement sombre, brossé par les deux journalistes des usages divers et variés que permet ce type de manipulation, « dans un espace informationnel que nous n’avons pas su réguler », selon le mot de Thomas Huchon.

IA, quelle définition ?

L’intelligence artificielle ou « machine learning », désigne un logiciel « qui va apprendre de lui-même à partir d’une base de données. Si c’est du langage, il va apprendre la grammaire, si c’est de l’image, il va détecter les contours, etc.. », résume Gérald Holubowicz.

En quelques années, le volume des productions générées par l’IA a littéralement explosé, et leurs implications dépassent désormais largement la seule sphère numérique. « Les cols blancs se sentaient protégés face à l’automation de la société, finalement il n’en est rien. […] On a cru s’en préserver en basculant les bassins d’emploi vers les services, mais là aussi, c’est remplaçable par de l’intelligence artificielle », pointe Gérald Holubowicz.

Le sénateur Dominique de Legge tient néanmoins à apporter une nuance sémantique : « C’est du traitement de données qui est artificialisé, industrialisé. Dans l’opinion publique, on parle d’intelligence artificielle, ça fout la trouille car beaucoup de gens pensent qu’elle va se substituer à notre propre intelligence. Mais ce qui est rentré dans la bécane, au départ, c’est de la donnée maîtrisée par l’homme », souligne l’élu. « Ces programmes informatiques ne sont pas de l’intelligence », abonde Thomas Huchon. « Il faut plutôt parler de malignité et d’une tentative de substituer aux êtres humains et à leurs parties cognitives des machines qui vont permettre de mieux contrôler différents univers ».

Communication et manipulation

Gérald Holubowicz rappelle que le champ de l’information et de la communication s’est largement approprié l’IA, en politique notamment où elle a permis à de nombreux candidats, aux Etats-Unis et en Asie, de se démultiplier grâce aux deepfakes. « Au printemps 2022, le président de la Corée du Sud Yoon Suk-yeol, encore candidat, a utilisé l’IA pour se dédoubler et converser avec son électorat. Lui était plutôt conservateur, mal reçu chez les jeunes. Son double pouvait directement interagir avec les gens et était plus sympa que le vrai. Cela aurait eu un impact sur les moins de 30 ans. »

« L’IA à la fois utilisée par des partis officiels, des candidats ou des acteurs malveillants arrive, d’une manière ou d’une autre à influencer les populations », assure Gérald Holubowicz.

De fait, la pratique du deepfake a aussi appuyé de nombreuses dérives, susceptibles de tomber sous le coup de la loi. « Dans un premier temps, les créateurs de deepfakes ont ciblé des populations vulnérables. Une société anglaise a calculé en 2019 que 96 % des deepfakes produits étaient des contenus à caractère sexuel non consenti, qui ciblaient des femmes connues ou inconnues, souvent au cœur de chantages domestiques », pointe Gérald Holubowicz. « Les observateurs constatent l’augmentation d’un autre type d’images à caractère inquiétant : des vidéos synthétiques pédopornographiques, distribuées sur les réseaux. »

Le rôle des réseaux sociaux

Pour Thomas Huchon, l’intelligence artificielle doit d’abord être considérée comme un outil, une avancée technologique « sur laquelle il ne sera plus possible de revenir ». « C’est un outil fabriqué par des êtres humains, qui sont capables d’y mettre une partie des biais qui les caractérisent ». À ses yeux, l’IA n’est moins un problème que l’absence de régulation ou de sanction sur les détournements qu’elle rend possible.

Il pointe notamment le rôle des réseaux sociaux, qui laissent circuler, sans filtre, les contenus produits. « Accuser l’IA générative de tous les mots de la désinformation, de fake news, c’est oublier une part très importante du problème », explique-t-il. « Ce qui pose un problème fondamental, ce n’est pas tant cette nouvelle technologie que le fait que nous n’ayons pas su réguler l’espace informationnel. »

« On a créé des univers dans lesquels, sous couvert de nous laisser une liberté d’expression, en réalité on a plutôt créé les conditions d’une dictature que d’une démocratie. Un univers dans lequel on peut accuser n’importe qui de n’importe quoi, sans preuve, ce n’est pas un univers démocratique, c’est un modèle stalinien », épingle le journaliste. Et d’ajouter : « Il y a une urgence démocratique à agir sur un phénomène qui perturbe nos processus démocratiques et électoraux depuis plus de quinze ans ».

Les pistes de régulation

Thomas Huchon insiste sur la nécessité de faire rentrer les réseaux sociaux sous le joug de la loi de 1881 sur la liberté de la presse, pour ainsi leur attribuer la responsabilité des contenus diffusés. Soit le sempiternel débat sur un statut d’éditeur pour les plateformes, avec le défi technologique que représente la régulation des contenus. Pour Gérald Holubowicz, il en va aussi de la survie de la presse traditionnelle : « On va assister à une forme d’étranglement des médias. Nous allons devoir exister dans un océan de contenus IA fabriqués pour désinformer. »

Ce journaliste évoque également un « plan décennal sur l’éducation aux médias » pour aiguiser l’esprit critique des plus jeunes à ce type de problématique. « Il faut imaginer sur le temps long une intégration fine aux programmes scolaires, et que l’éducation aux médias ne soit plus seulement l’œuvre d’intervenants ponctuels dans les classes. »

Dernière piste pour limiter l’impact de la désinformation : repenser le modèle financier des plateformes, qui s’appuie très largement sur la publicité et génère du même coup de nombreux effets pervers. « Le modèle économique qui repose sur la captation de l’attention donne une prime systématique aux contenus qui retiennent le plus notre attention. Et quels sont les contenus qui captent le plus notre attention ? ceux qui contiennent le plus d’appels à la colère, ceux qui contiennent le plus d’émotion, qui vont jouer le plus sur nos indignations. Quels sont-ils ? Les fake news ! », résume Thomas Huchon.