Intelligence artificielle et fake news, un cocktail qui fait trembler nos démocraties

L’intelligence artificielle, qui est en train de révolutionner notre rapport et nos usages du numérique, est également devenue l’outil privilégié de la désinformation en ligne. Auditionnés par la commission d’enquête du Sénat sur les influences étrangères, les journalistes Thomas Huchon et Gérald Holubowicz balayent les champs d’application et les dérives de l’IA, une avancée technologique qui ne bouscule pas seulement notre cerveau, mais aussi nos systèmes démocratiques.
Romain David

Temps de lecture :

8 min

Publié le

Mis à jour le

La commission d’enquête du Sénat sur les politiques publiques face aux opérations d’influence étrangère s’intéresse de près au rôle grandissant de l’intelligence artificielle (IA). Avec l’audition ce mardi 9 avril de deux journalistes d’investigation, Thomas Huchon, spécialiste de la désinformation, et Gérald Holubowicz, spécialiste de l’IA et enseignant à Science Po.

Avant de répondre aux questions des élus, les deux journalistes se sont prêtés à une entrée en matière plutôt inhabituelle dans ce type d’exercice, manière pour eux d’illustrer les capacités de mimétisme troublantes de l’intelligence artificielle générative.

Thomas Huchon a présenté aux sénateurs une vidéo synthétique, ou « deepfake » selon le terme couramment utilisé : un clip entièrement réalisé par une IA et dans laquelle un double numérique du journaliste prend, tour à tour, la voix de Jean-Luc Mélenchon, de Gabriel Attal, de la chanteuse Angèle… ou encore celle du président de la commission d’enquête, le sénateur LR Dominique de Legge.

« Il nous a suffi de récupérer un extrait de deux minutes d’un discours que vous aviez prononcé, et de le donner à manger à une intelligence artificielle pour lui faire dire ce que l’on veut », résume le journaliste. La manipulation n’a pris qu’un quart d’heure.

Quelques minutes plus tard, Gérald Holubowicz reproduit l’opération, cette fois avec un enregistrement sonore de la voix du rapporteur socialiste Rachid Temal : « Je suis le sénateur Rachid Temal, et je vous rappelle que je ne suis en aucun cas responsable des mots qui sont prononcés à cet instant », lâche la voix qui imite à l’identique, et devant l’intéressé, le ton grave et particulièrement identifiable du sénateur du Val-d’Oise.

Mais passé l’amusement de ce petit préambule, c’est l’effroi qui a rapidement pris place sous le plafond de la salle Médicis, face au tableau relativement sombre, brossé par les deux journalistes des usages divers et variés que permet ce type de manipulation, « dans un espace informationnel que nous n’avons pas su réguler », selon le mot de Thomas Huchon.

IA, quelle définition ?

L’intelligence artificielle ou « machine learning », désigne un logiciel « qui va apprendre de lui-même à partir d’une base de données. Si c’est du langage, il va apprendre la grammaire, si c’est de l’image, il va détecter les contours, etc.. », résume Gérald Holubowicz.

En quelques années, le volume des productions générées par l’IA a littéralement explosé, et leurs implications dépassent désormais largement la seule sphère numérique. « Les cols blancs se sentaient protégés face à l’automation de la société, finalement il n’en est rien. […] On a cru s’en préserver en basculant les bassins d’emploi vers les services, mais là aussi, c’est remplaçable par de l’intelligence artificielle », pointe Gérald Holubowicz.

Le sénateur Dominique de Legge tient néanmoins à apporter une nuance sémantique : « C’est du traitement de données qui est artificialisé, industrialisé. Dans l’opinion publique, on parle d’intelligence artificielle, ça fout la trouille car beaucoup de gens pensent qu’elle va se substituer à notre propre intelligence. Mais ce qui est rentré dans la bécane, au départ, c’est de la donnée maîtrisée par l’homme », souligne l’élu. « Ces programmes informatiques ne sont pas de l’intelligence », abonde Thomas Huchon. « Il faut plutôt parler de malignité et d’une tentative de substituer aux êtres humains et à leurs parties cognitives des machines qui vont permettre de mieux contrôler différents univers ».

Communication et manipulation

Gérald Holubowicz rappelle que le champ de l’information et de la communication s’est largement approprié l’IA, en politique notamment où elle a permis à de nombreux candidats, aux Etats-Unis et en Asie, de se démultiplier grâce aux deepfakes. « Au printemps 2022, le président de la Corée du Sud Yoon Suk-yeol, encore candidat, a utilisé l’IA pour se dédoubler et converser avec son électorat. Lui était plutôt conservateur, mal reçu chez les jeunes. Son double pouvait directement interagir avec les gens et était plus sympa que le vrai. Cela aurait eu un impact sur les moins de 30 ans. »

« L’IA à la fois utilisée par des partis officiels, des candidats ou des acteurs malveillants arrive, d’une manière ou d’une autre à influencer les populations », assure Gérald Holubowicz.

De fait, la pratique du deepfake a aussi appuyé de nombreuses dérives, susceptibles de tomber sous le coup de la loi. « Dans un premier temps, les créateurs de deepfakes ont ciblé des populations vulnérables. Une société anglaise a calculé en 2019 que 96 % des deepfakes produits étaient des contenus à caractère sexuel non consenti, qui ciblaient des femmes connues ou inconnues, souvent au cœur de chantages domestiques », pointe Gérald Holubowicz. « Les observateurs constatent l’augmentation d’un autre type d’images à caractère inquiétant : des vidéos synthétiques pédopornographiques, distribuées sur les réseaux. »

Le rôle des réseaux sociaux

Pour Thomas Huchon, l’intelligence artificielle doit d’abord être considérée comme un outil, une avancée technologique « sur laquelle il ne sera plus possible de revenir ». « C’est un outil fabriqué par des êtres humains, qui sont capables d’y mettre une partie des biais qui les caractérisent ». À ses yeux, l’IA n’est moins un problème que l’absence de régulation ou de sanction sur les détournements qu’elle rend possible.

Il pointe notamment le rôle des réseaux sociaux, qui laissent circuler, sans filtre, les contenus produits. « Accuser l’IA générative de tous les mots de la désinformation, de fake news, c’est oublier une part très importante du problème », explique-t-il. « Ce qui pose un problème fondamental, ce n’est pas tant cette nouvelle technologie que le fait que nous n’ayons pas su réguler l’espace informationnel. »

« On a créé des univers dans lesquels, sous couvert de nous laisser une liberté d’expression, en réalité on a plutôt créé les conditions d’une dictature que d’une démocratie. Un univers dans lequel on peut accuser n’importe qui de n’importe quoi, sans preuve, ce n’est pas un univers démocratique, c’est un modèle stalinien », épingle le journaliste. Et d’ajouter : « Il y a une urgence démocratique à agir sur un phénomène qui perturbe nos processus démocratiques et électoraux depuis plus de quinze ans ».

Les pistes de régulation

Thomas Huchon insiste sur la nécessité de faire rentrer les réseaux sociaux sous le joug de la loi de 1881 sur la liberté de la presse, pour ainsi leur attribuer la responsabilité des contenus diffusés. Soit le sempiternel débat sur un statut d’éditeur pour les plateformes, avec le défi technologique que représente la régulation des contenus. Pour Gérald Holubowicz, il en va aussi de la survie de la presse traditionnelle : « On va assister à une forme d’étranglement des médias. Nous allons devoir exister dans un océan de contenus IA fabriqués pour désinformer. »

Ce journaliste évoque également un « plan décennal sur l’éducation aux médias » pour aiguiser l’esprit critique des plus jeunes à ce type de problématique. « Il faut imaginer sur le temps long une intégration fine aux programmes scolaires, et que l’éducation aux médias ne soit plus seulement l’œuvre d’intervenants ponctuels dans les classes. »

Dernière piste pour limiter l’impact de la désinformation : repenser le modèle financier des plateformes, qui s’appuie très largement sur la publicité et génère du même coup de nombreux effets pervers. « Le modèle économique qui repose sur la captation de l’attention donne une prime systématique aux contenus qui retiennent le plus notre attention. Et quels sont les contenus qui captent le plus notre attention ? ceux qui contiennent le plus d’appels à la colère, ceux qui contiennent le plus d’émotion, qui vont jouer le plus sur nos indignations. Quels sont-ils ? Les fake news ! », résume Thomas Huchon.

Dans la même thématique

Intelligence artificielle et fake news, un cocktail qui fait trembler nos démocraties
3min

Société

« La plupart des sportifs de haut-niveau sont en grande précarité » alerte le champion de BMX Matthias Dandois

Après un dixième sacre aux championnats du monde de BMX, il a décidé de prendre sa retraite. Sa carrière a l’âge et la fougue d'un ado : 16 ans. Aujourd'hui assagi, Matthias Dandois se livre. S'il se félicite que les jeux olympiques de Paris 2024 aient crédibilisé le BMX et mis en lumière l’importance d’investir dans le sport de haut niveau, il regrette que la France soit loin d’être une nation de sport. Cette semaine, Rebecca Fitoussi reçoit le champion de BMX Matthias Dandois, dans « Un monde, un regard » sur Public Sénat.

Le

SCREEN SHOT CYRIL HANOUNA ET TPMP
9min

Société

Fin de C8 : « Liberté d’expression en jeu » ou « décision légitime » ?

Alors que C8 arrête d’émettre sur la TNT ce vendredi soir, la décision de l’Arcom fait toujours polémique. « On est en train d’affaiblir la TNT, c’est-à-dire la télévision du plus grand nombre », dénonce le sénateur LR Max Brisson. Mais pour le sénateur PS Yan Chantrel, « c’était important de montrer qu’on ne pouvait pas tout se permettre. Ce n’est pas le tout et n’importe quoi ».

Le

SIPA_01199759_000016
6min

Société

Fin de C8 : pourquoi la décision de l’Arcom n’est pas de la censure ?

Ce 28 février dans la nuit, les chaînes NRJ12 et C8 cesseront d’émettre sur la télévision numérique terrestre (TNT). Leurs fréquences n’ont pas été renouvelées par le régulateur de l’audiovisuel, l’Arcom. Si la fin de NRJ12 n’a suscité aucun débat, pour C8 en revanche, la droite et l’extrême droite crient « à la censure politique ». Retour sur les critères qui ont amené l’Arcom à prendre cette décision.

Le

Intelligence artificielle et fake news, un cocktail qui fait trembler nos démocraties
6min

Société

Narcotrafic : comment la drogue inonde les zones rurales

Le trafic de drogue s'étend désormais aux zones rurales et aux villes moyennes de notre pays. Dans les départements de l’Orne et de la Manche, la cocaïne circule à bas bruit. Et cause d’importants dégâts sanitaires, surtout quand elle est consommée sous forme de « crack ». Sur la piste des trafiquants, gendarmes et magistrats déplorent un manque criant de moyens. Dans le cadre d’un documentaire, Public Sénat a posé sa caméra dans ce bout de Normandie aux prises avec le narcotrafic.

Le