TikTok assigné en justice : les dérives de l’algorithme du réseau social chinois déjà pointées par la commission d’enquête du Sénat

C’est une première en Europe : sept familles françaises, réunies en collectif, assignent en justice le réseau social TikTok, rapporte franceinfo. Elles accusent l’application chinoise, très prisée des adolescents, d’avoir exposé leurs enfants à des contenus faisant la promotion de l’anorexie, de l’automutilation et du suicide. Parfois avec des conséquences dramatiques : dans ce dossier, deux adolescentes se sont suicidées à l’âge de 15 ans, quatre autres ont tenté de mettre fin à leurs jours et la dernière a souffert de troubles alimentaires.

Algos Victima, le collectif mis en place à l’initiative de Laure Boutron-Marmion, avocate de l’une des familles plaignantes, indique vouloir « s’engager à lutter pour la reconnaissance de la responsabilité juridique des plateformes du numérique dans les cas de préjudices infligés aux utilisateurs mineurs. » Cette affaire met en lumière les interrogations liées au fonctionnement de l’algorithme de TikTok, mais aussi les capacités de modération de la plateforme, régulièrement pointées du doigt pour laisser passer des contenus problématiques ou violents.

En 2023, le Sénat lançait une commission d’enquête « sur l’utilisation du réseau social TikTok, son exploitation des données, sa stratégie d’influence ». Si les travaux de la Chambre haute se sont largement concentrés sur le réseau social et les soupçons d’ingérences de la Chine, le rapport de la commission insistait également sur l’impact sanitaire et plus particulièrement les effets psychologiques de l’application sur les plus jeunes.

Un public de mineurs

Lancé en 2016 en Chine, sous le nom de « Douyin », TikTok revendique désormais plus d’1,2 milliard d’utilisateurs dans le monde, dont 22 millions en France où elle s’impose en 2018 après l’acquisition de la plateforme concurrente Musical.ly. 63 % des utilisateurs Français sont âgés de12 ans, bien que l’application soit officiellement interdite aux moins de 13 ans. Les mineurs y passent en moyenne 1h47 chaque jour, selon les chiffres du Sénat.

Le nombre de travaux scientifiques consacrés aux conséquences psychiques et psychologiques de TikTok reste à ce jour assez limité. Néanmoins, une étude publiée en 2023 dans la revue Pyschiatry Research « montrerait que les utilisateurs accros aux vidéos courtes présenteraient des conditions de santé mentale plus mauvaises que les non-utilisateurs et les utilisateurs modérés, avec des niveaux plus élevés de dépression, d’anxiété et de stress. »

Le risque d’enfermement des utilisateurs les plus fragiles

Surtout, le rapport pointe la propension de l’algorithme de recommandation à mettre en avant les contenus problématiques ou dangereux auprès des publics les plus fragiles, d’autant que TikTok maintient une certaine « opacité » sur son fonctionnement. Les règles opératoires de l’application s’appuieraient sur le temps passé par les utilisateurs devant certaines vidéos pour cerner leurs centres d’intérêt et faire remonter dans leur fil des contenus similaires. Une étude du Center for Countering Digital Hate, une ONG qui lutte contre la désinformation, a montré qu’un utilisateur qui a passé quelques secondes de plus devant des vidéos traitant du suicide se verra proposer 12 fois plus de contenus similaires qu’un utilisateur standard.

Mais devant les sénateurs, les dirigeants de TikTok France ont nié ce phénomène de concentration, désigné sous le terme de « bulle de filtres ». Auditionné en juin 2023, Éric Garandeau, directeur des affaires publiques et des relations institutionnelles de TikTok en France, avait assuré que l’application « n’enferm [ait] jamais les gens dans des bulles », mais au contraire était configurée pour leur proposer aussi des contenus éloignés de leurs préférences. Un argumentaire qui n’a pas vraiment convaincu les élus : « Plutôt que de détailler des mesures pour limiter les effets de ces bulles de filtre, TikTok préfère dénier leur existence même », épingle le rapport d’enquête. « Non seulement l’application capte fortement l’attention, conduisant ses utilisateurs à y passer de longs moments, mais ce temps passé serait dangereux pour les personnes les plus vulnérables », alerte encore le Sénat.

Pour limiter les risques, la Chambre haute appelait dans ses recommandations le gouvernement et la Commission européenne à exiger de TikTok, sous peine de suspension, « un contrôle effectif de l’âge et des mesures concrètes pour lutter contre l’utilisation excessive par les adolescents ». Elle préconisait également la mise en place, au niveau européen, de « normes minimales en matière d’éthique et de respect des droits fondamentaux » à intégrer aux algorithmes.

Une modération inégale

Autre élément d’inquiétude mis en avant par les parlementaires : le « flou » entretenu sur les moyens humains consacrés à la modération, qu’il s’agisse de la lutte contre la désinformation ou de la modération des contenus problématiques. Selon les données fournis par l’entreprise, ses services de modération comptaient en 2023 plus de 40 000 professionnels spécialisés, dont 600 modérateurs francophones.

« TikTok ne communique pas sur le nombre précis de modérateurs qu’il emploie, ni sur leur localisation et leur répartition selon les pays, ni encore sur les éventuels sous-traitants qui les emploient, malgré les questions répétées des membres de la commission d’enquête », regrette les élus. La plateforme aurait majoritairement recours à l’AI pour effectuer ses opérations de modérations. Les sénateurs notent que celle-ci est « très efficace » pour détecter « les contenus haineux, violents ou racistes », moins lorsqu’il s’agit d’identifier des fake news.

Il n’empêche, en mars dernier, l’Autorité de la concurrence italienne a infligé une amende de 10 millions d’euros à TikTok, lui reprochant de ne pas avoir agi face à la viralité d’un défi dangereux, dit « de la cicatrice », consistant à se pincer suffisamment fort le visage pour y laisser une marque. La plateforme s’était défendue en expliquant que ce type de vidéo n’entrait pas formellement dans la catégorie des contenus incitant à l’automutilation, qui sont bel et bien prohibés par ses règles d’utilisation.

Dans ses recommandations, le Sénat propose de considérer TikTok comme éditeur, ce qui reviendrait à rendre la société juridiquement responsable de l’ensemble des contenus postés sur la plateforme, un vieux serpent de mer de la régulation des réseaux sociaux.