La lanceuse d’alerte Frances Haugen auditionnée au Sénat : une plongée glaçante dans l’arrière-cuisine de Facebook

La lanceuse d’alerte Frances Haugen auditionnée au Sénat : une plongée glaçante dans l’arrière-cuisine de Facebook

L’ingénieure américaine Frances Haugen, à l’origine d’une série de divulgations sur les algorithmes utilisés par Facebook, où elle a travaillé de 2019 à 2021, était reçue mercredi par les sénateurs. Elle a dénoncé la course au profit dans laquelle s’est lancé le géant du numérique, quitte à fermer les yeux sur certains phénomènes de désinformation et de promotion des discours haineux.
Romain David

Temps de lecture :

7 min

Publié le

Mis à jour le

« Presque personne en dehors de Facebook ne sait ce qu’il se passe à l’intérieur de Facebook. » Et elle fait partie de cette petite poignée de privilégiés. Mercredi, le Sénat auditionnait l’Américaine Frances Haugen, ingénieure informaticienne, et employée entre 2019 et 2021 du réseau fondé par Mark Zuckerberg, avant de devenir lanceuse d’alerte. Cette spécialiste des algorithmes, a transmis au régulateur américain, au Congrès et à différents médias des centaines de documents internes au géant de la Silicon Valley, révélant que l’entreprise rechigne à lutter contre les effets nocifs qu’elle peut produire sur les utilisateurs du réseau, et plus généralement en matière de contenus haineux et de désinformation.

« Je crois que les produits de Facebook nuisent aux enfants, aggravent les clivages, nuisent à la démocratie », a expliqué Frances Haugen devant les commissions sénatoriales des Affaires européennes et de la Culture, de l’éducation et de la communication. « Les dirigeants savent comment rendre Facebook et Instagram plus sûrs mais refusent de faire les changements nécessaires, pour pouvoir faire passer leurs immenses bénéfices avant les gens ». Lancée dans une tournée européenne alors que l’UE examine le Digital Services Act, un règlement sur les services numériques qui prévoit d’encadrer l’utilisation des algorithmes, Frances Haugen a évoqué durant plus d’une heure certains des nombreux travers d’un réseau social qui revendique plus de 1,9 milliard d’utilisateurs dans le monde.

Des algorithmes au service du profit

« Facebook a fait face à plusieurs reprises à des conflits entre ses propres bénéfices et notre sécurité, et à chaque fois, l’entreprise a toujours choisi de résoudre ces conflits en faveur de ses propres profits », a relevé Frances Haugen devant les sénateurs. Cette spécialiste des nouvelles technologies pointe une rupture entre le Facebook de la fin des années 2000, proposant en priorité à ses utilisateurs des contenus liés aux cercles familiaux et amicaux, et le Facebook des années 2010 qui soumet les internautes à des contenus bien plus variés, mais aussi plus extrêmes.

« L’algorithme choisit toujours le contenu le plus clivant et le plus violent », explique Frances Haugen. « Il les hyperamplifie », car ces contenus sont susceptibles de faire réagir l’utilisateur, et plus l’utilisateur réagit, plus il passe du temps sur le réseau et consomme de la publicité. Et de citer l’exemple suivant : « En Allemagne, il y a eu un scandale parce que 65 % des personnes qui ont rejoint des groupes néonazis sur Facebook l’ont fait parce que l’algorithme leur avait suggéré. »

« Les algorithmes ont-ils été conçus dans cette intention originelle de faire exclusivement du profit, auquel cas peuvent-ils être corrigés, ou bien est-ce irréparable et le modèle économique définitivement toxique et pervers ? », a demandé la sénatrice Catherine Morin-Desailly. Selon Frances Haugen, « Facebook connaît énormément de solutions qui fonctionneraient partout dans le monde », mais préfère les laisser de côté lorsqu’elles induisent une baisse des revenus, notamment ceux générés par la publicité.

Des publics particulièrement vulnérables

Conséquence de l’exposition à des contenus violents : « La machine à générer des profits qu’est Facebook génère aussi de l’automutilation et de la haine de soi, notamment dans les publics les plus vulnérables », dénonce Frances Haugen. Ces différents effets pervers du réseau auraient même fait l’objet de recherches en interne. Les adolescentes seraient parmi les publics les plus sensibles à ce type de phénomène.

Par ailleurs, les veuves et les veufs, les personnes divorcées et celles ayant récemment déménagé seraient plus exposées que les autres à la désinformation sur Facebook : « Les personnes sont happées et consomment énormément de contenus parce qu’elles ont perdu leurs réseaux sociaux réels », explique Frances Haugen.

« Le problème, c’est que quand vous êtes hyperexposés, plus vous voyez une idée, plus elle vous semble réelle ». Ce qui aurait permis aux thèses complotistes et autres discours pseudo-scientifiques de proliférer sur le réseau pendant la crise du covid-19, via un nombre restreint d’utilisateurs. 80 % des messages contenant des informations sur le coronavirus auraient été reçus par seulement 4 % des communautés présentes sur Facebook. « Certaines personnes ont fait face à un déluge d’informations. »

Un angle mort sur la modération

Facebook ne dispose pas de collaborateurs suffisants pour comprendre les différents dialectes utilisés sur le réseau. De plus, ses systèmes de modération automatiques ne sont pas suffisamment pertinents, et peuvent être amenés à laisser de côté des contenus illicites, ou au contraire à supprimer ceux qui ne le sont pas. « Des discours contre-terroristes peuvent être étiquetés comme terroristes », note Frances Haugen.

« Combien de modérateurs francophones agissent pour Facebook ? », a interrogé le sénateur Laurent Lafon, président de la commission de la Culture, de l’éducation et de la communication. « L’entreprise ne le divulgue pas… parce qu’il y en a trop peu. Je ne connais pas le chiffre exact, mais en septembre 2020, 87 % du budget opérationnel était dépensé sur l’anglais », répond la lanceuse d’alerte. Selon elle, les trois-quarts des 30 000 modérateurs qu’emploie Facebook, la plupart basés aux Philippines, parlent d’abord anglais. « Facebook sait que la plus grosse menace pour l’entreprise ne peut venir que des États-Unis, donc du monde anglophone, ils sous-investissent dans les zones où ils ne se sentent pas menacées. »

Un manque criant de transparence

La lanceuse d’alerte a également insisté sur la nécessité de contraindre Facebook à communiquer davantage sur les données qu’il collecte, estimant que sur ce point, le géant du numérique est encore plus réticent que Twitter et Google à transmettre certaines informations. « Comment est-ce que le public est censé déterminer si Facebook résout les conflits d’intérêts de manière conforme à l’intérêt général, s’il n’a aucune visibilité et aucun contexte sur le fonctionnement réel de Facebook ? Cela doit changer », souligne Frances Haugen.

L’objectif : permettre à des chercheurs indépendants ou des universitaires de prélever des échantillonnages pour étudier les algorithmes mais aussi les comportements des utilisateurs. La publication et la diffusion de tels travaux pourraient d’ailleurs pousser l’entreprise à revoir ses priorités en termes de développement : « Si Facebook avait dépensé des milliards sur la sécurité je ne serais pas ici. Il y a un sous-investissement, avec seulement 1 000 ou 2 000 ingénieurs qui travaillent dessus », constate Frances Haugen.

La nécessité de renforcer la législation

« À maintes reprises Facebook a tenté d’aplanir des scandales en déclarant simplement : nous y travaillons. Cette dynamique doit changer », remarque Frances Haugen, qui considère que l’entreprise doit se soumettre à des audits et des contrôles externes. « Facebook ne peut pas être jury, témoin et procureur à la fois », martèle cette scientifique.

Elle salue notamment l’initiative européenne autour du Digital Services Act. « À mon avis, cette loi sur les services numériques, a le potentiel pour devenir une référence mondiale qui pourrait inspirer d’autres pays. […] La loi doit être forte et son application ferme, sinon nous perdrons cette occasion unique d’aligner l’avenir de la technologie et de la démocratie. »

Dans la même thématique

Paris : illustrations of assize court of Paty s trial
5min

Société

Procès de l'assassinat de Samuel Paty : tous les accusés ont été reconnus coupables

Les deux amis de l’assassin du professeur Samuel Paty, Naïm Boudaoud et Azim Epsirkhanov, ont été reconnus coupables de complicité d’assassinat et condamnés à 16 ans de réclusion criminelle. Le verdict a été accueilli par des cris et des pleurs de la part de la famille de Naïm Boudaoud, âgé de 22 ans. « Ce soir, c’est la République qui a gagné », s’est félicité Thibault de Montbrial, avocat de Mickaëlle Paty, une des sœurs du professeur assassiné. La cour a également déclaré coupables d’association de malfaiteurs terroriste les deux auteurs de la « campagne de haine « qui ont fait de Samuel Paty une « cible » : Brahim Chnina, 52 ans et le prédicateur islamiste Abdelhakim Sefrioui, 65 ans, ont écopé respectivement de 13 et 15 ans de réclusion criminelle. « J’ai compris que vous avez fait de la politique, pas de la justice », s’est exclamé depuis son box Abdelhakim Sefrioui avant d’être sèchement interrompu par le président, tandis que la famille de Brahim Chnina, très nombreuse sur les bancs du public, éclatait en sanglots et cris de désespoir. Vincent Brengarth, un des avocats d’Abdelhakim Sefrioui, a annoncé aussitôt que son client faisait appel de sa condamnation. Ouadie Elhamamouchi, autre avocat du prédicateur, a estimé que son client était désormais « un prisonnier politique ». « Je me désolidarise de ces propos-là », a cependant nuancé Me Brengarth, montrant des failles dans la défense du prédicateur. Avocat de la compagne de Samuel Paty et de leur fils, présent à l’audience, Francis Szpiner s’est félicité d’un « verdict équilibré ». Le fils de Samuel Paty, âgé seulement de 9 ans, a compris que « justice a été rendue pour son père », a-t-il ajouté. Si le quantum des peines n’est pas très différent de ce que réclamait le parquet, la cour présidée par Franck Zientara a choisi de maintenir l’infraction de « complicité » pour les deux amis d’Abdoullakh Anzorov, un islamiste radical tchétchène de 18 ans, abattu par la police peu après son acte. Les quatre autres accusés, dont une femme, appartenant à la « jihadosphère » qui était en contact avec Anzorov sur les réseaux sociaux, ont également tous été condamnés à des peines de prison ferme ou avec sursis. Pour deux d’entre eux (Ismaël Gamaev et Louqmane Ingar) la cour a retenu l’association de malfaiteurs terroriste tandis qu’elle a déclaré coupable Priscilla Mangel de provocation au terrorisme et Yusuf Cinar d’apologie du terrorisme. La veille de l’attentat, Naïm Boudaoud et Azim Epsirkhanov avaient accompagné Anzorov à Rouen pour y acheter un couteau (pas celui qui a servi à décapiter Samuel Paty) qui sera retrouvé sur la scène de crime. A l’audience, Boudaoud et Epsirkhanov ont répété qu’Anzorov leur avait expliqué que ce couteau était « un cadeau » pour son grand-père. Le jour de l’attentat, le 16 octobre 2020, Boudaoud, le seul sachant conduire, avait accompagné le tueur dans un magasin de pistolets airsoft puis l’avait déposé à proximité du collège où enseignait Samuel Paty. « Volonté de s’attaquer à l’intégrité physique d’un tiers » Les deux jeunes gens « avaient conscience de la radicalité » d’Anzorov et qu’il « avait la volonté de s’attaquer à l’intégrité physique d’un tiers », a estimé la cour. Cependant, a souligné le président Zientara, « il n’est pas démontré que (les deux jeunes gens) étaient avisés de l’intention d’Anzorov de donner la mort à Samuel Paty ». Les magistrats du Pnat avaient requis 14 ans de réclusion assortie d’une période de sûreté des deux tiers contre Boudaoud et 16 ans de réclusion également assortie d’une période de sûreté des deux tiers contre Epsirkhanov. La cour n’a cependant pas retenu la période de sûreté des deux tiers à leur encontre. Brahim Chnina, père de la collégienne qui a menti en accusant le professeur d’avoir discriminé les élèves musulmans de sa classe lors d’un cours sur la liberté d’expression où il a présenté une caricature de Mahomet, avait lui posté des messages et une vidéo hostile au professeur dès le 7 octobre. Quant à Abdelhakim Sefrioui, fondateur de l’association (aujourd’hui dissoute) pro-Hamas « Collectif Cheikh-Yassine », il avait qualifié Samuel Paty de « voyou » dans une autre vidéo. Mais rien ne prouve qu’Anzorov avait vu la vidéo d’Abdelhakim Sefrioui, avaient mis en avant ses avocats, ajoutant que leur client n’avait pas rencontré l’assassin de Samuel Paty. « La cour a considéré que (MM. Chnina et Sefrioui) avaient préparé les conditions d’un passage à l’acte terroriste », a indiqué M. Zientara. (Avec AFP)

Le