« Les grands monopoles technologiques et l’IA sont aujourd’hui en mesure de tenir tête aux Etats et de ne plus leur obéir »

L’intelligence artificielle est-elle un danger pour nos démocraties ? C’est la question que pose Bernard Benhamou et Jean-Marie Cavada, dans leur rapport « Intelligence artificielle, enjeux et perspectives pour les droits humains en Europe », alors que Donald Trump a annoncé le lancement du projet Stargate, un plan d’investissement de 500 milliards de dollars sur 4 ans en faveur de l’intelligence artificielle, et qu’un nouveau logiciel d’intelligence artificielle chinois, Deepseek a vu le jour, en début de semaine.

« Les données sont un outil de contrôle des populations »

Comme rappelé par Jean-François Rapin, président de la commission des affaires européennes du Sénat, en début d’audition, le constat de ce rapport est qu’« au-delà de leurs effets industriels et sociaux, les technologies d’intelligence artificielle pourraient avoir des conséquences durables sur l’organisation de notre société et sur nos libertés ». Bernard Benhamou l’assure : « Le danger démocratique est bien plus grand, bien plus immédiat pour nous Européens, que l’hypothétique venue au pouvoir d’une intelligence artificielle superpuissante façon Terminator ». Une influence sur nos systèmes démocratiques qui se manifeste d’abord par une utilisation des données et un contrôle des opinions. Pour le secrétaire général de l’Institut de la Souveraineté Numérique, « les données sont un outil de contrôle des populations ». Il dénonce « les mastodontes » qui « réunissent tellement d’informations, en savent tellement sur nous qu’ils peuvent nous manipuler d’une manière qui était totalement impensable dans les temps passés ». Jean-Marie Cavada précise qu’ « ils savent à peu près tout ce qu’il est nécessaire de savoir pour conduire les désirs et l’obéissance des individus ». Les deux experts évoquent ainsi Neuralink, l’entreprise d’implants cérébraux, fondée par Elon Musk en 2016

Des manipulations qui permettent, à terme, d’influencer le résultat des élections. Un exemple a été donné le 6 décembre dernier par la Roumanie. La Cour constitutionnelle roumaine a annulé le premier tour de l’élection présidentielle, en raison d’opérations d’influence russe sur le réseau social TikTok destinées à favoriser le candidat d’extrême droite, Calin Georgescu. Les deux experts assurent qu’il est possible de créer de faux profils sur les réseaux sociaux en quelques secondes : « Il y a des facilités des plateformes […], tout cela peut se faire automatiquement à une échelle industrielle ». Bernard Benhamou estime qu’ « aujourd’hui, il y a 800 millions de comptes effacés par trimestre par Facebook », ce qui montre l’ampleur que prennent ces profils factices. A partir de ces faux comptes, « vous créez un mouvement de fond, en disant qu’il faut élire telle personne et vous multipliez les messages ». Jean-Marie Cavada rappelle qu’une telle stratégie avait été adoptée par Evgueni Prigojine, dirigeant du groupe paramilitaire russe Wagner, décédé en août 2023 dans un crash d’avion. Il avait admis avoir créé des fermes à trolls, pour diffuser les éléments de propagande favorable au pouvoir russe. Des faux comptes, mais également des fausses informations. Au-delà du sujet de la désinformation, « le vrai problème n’est pas seulement que les gens vont voir des choses fausses et vont y croire, mais que les gens ne croiront plus en rien, quand bien même cela serait vrai », déplore Bernard Benhamou.

Les géants du numérique « sont en train d’entrer dans les mondes de l’économie et de la défense pour en prendre le contrôle »

Pour les deux experts, les « mastodontes » n’agissent pas uniquement sur les élections : les géants du numérique « sont en train d’entrer dans les mondes de l’économie et de la défense pour en prendre le contrôle ». Sur le plan financier, Jean-Marie Cavada soutient que « le système de Bretton-Woods s’effondrera avec la monnaie numérique », car « la puissance américaine va accumuler une richesse abstraite, et va faire une spéculation énorme, qui bouleversera le monde et pourrait provoquer des bulles à côté desquelles l’affaire Lehman Brothers est un tout petit terrain d’essai ». Des propos qui font écho au lancement par Donald Trump de sa propre cryptomonnaie, au lendemain de son investiture. Sur le plan militaire, le président de l’Institut des Droits Fondamentaux Numériques s’interroge : « Sera-t-il nécessaire de déployer sur les continents des formes militaires telles que nous les avons aujourd’hui ou avons-nous déjà expérimenté sur les champs de bataille des technologies qui vont nous dispenser de déployer des vies humaines ? »

Face à de tels « mastodontes », quelles sont les réponses qui peuvent être formulées par l’Union européenne ? Deux règlements de régulation de l’intelligence artificielle (IA Act), et des services numériques (Digital Services Act) existent déjà. Le Digital Services Act (DSA) établit plusieurs règles pour responsabiliser les plateformes numériques, empêcher la diffusion de contenus illégaux et garantir une plus grande transparence notamment en matière de modération des contenus. Si les plateformes ne respectent pas ces obligations, la Commission européenne peut les sanctionner par le biais d’amendes, d’astreintes, ou une interdiction d’activités sur le marché européen. Adopté le 19 octobre 2022, il est applicable à l’ensemble des plateformes numériques depuis le 17 février 2023.

Jean-Marie Cavada explique que « les grands monopoles technologiques et l’intelligence artificielle générative sont aujourd’hui en mesure de tenir tête aux Etats et de ne plus leur obéir », prenant ainsi exemple « des régulations européennes, à peine mises en chantier ». En effet, alors que la Commission européenne avait rendu un avis préliminaire indiquant que X/Twitter avait enfreint plusieurs règles du DSA, notamment en matière de transparence, Elon Musk, à présent bras droit du président américain, avait publié un tweet dans lequel il déclarait : « Le DSA est de la désinformation ! ».

« Cet étrange personnage qui n’a visiblement pas vu « Le dictateur » de Chaplin et qui s’appelle Monsieur Musk »

Désignant Elon Musk comme « cet étrange personnage qui n’a visiblement pas vu « Le dictateur » de Chaplin », en référence au salut du milliardaire après la cérémonie d’investiture de Donald Trump, Jean-Marie Cavada dénonce les ingérences d’Elon Musk en Allemagne, au Royaume-Uni et aux Etats-Unis. Il parle d’une présidence « Trusk », et fustige les critiques du milliardaires à l’égard des élections législatives allemandes et le pouvoir anglais : « A-t-on jamais vu un industriel entrer par l’argent dans un gouvernement, calomnier le Premier ministre britannique et critiquer les élections allemandes, tout en promouvant les néo-nazis allemands ?  ». Il pointe également « la réaction de la Commission européenne », qu’il juge « stupéfiante d’indigence ». La semaine dernière, la présidente de la Commission, Ursula van der Leyen, a appelé Donald Trump à « négocier » avec l’Europe.

« Nous devons en finir avec l’obsession de la régulation »

Mais pour Bernard Benhamou, la réponse ne se situe pas au niveau de la régulation : « Nous devons en finir avec l’obsession de la régulation, pour en revenir à la saine obsession du développement industriel dans ces domaines ». Selon le secrétaire général de l’Institut de la Souveraineté Numérique, l’investissement dans le numérique et l’intelligence artificielle est une priorité pour la survie européenne en la matière : « Nous avons fini par penser que le marché se suffirait à lui-même dans ce domaine, les Américains ont été largement interventionnistes […] si nous ne sommes que défensifs, nous cesserons d’exister, ou pour reprendre les termes du rapport Draghi, nous irons vers l’agonie européenne ». Pour mener ces investissements en Europe, Jean-Marie Cavada préconise la création d’ « une autorité politique européenne » : « Nous n’aurons aucune chance de trouver de l’argent et de générer des entreprises, si nous n’avons pas une autorité politique européenne ».