Digital Society Forum Digital Society Forum
Dans la presse 11/12/2019

En Inde, TikTok est impliquée dans des appels au meurtre

En Inde, l'application TikTok est devenue extrêmement populaire parmi les jeunes et les adolescents. Photo by Jubayer Sk from Pexels
Après seulement trois années d’existence, l’application TikTok a récemment dépassé le milliard de téléchargements . Propriété de la startup chinoise ByteDance, ce réseau social de partage de vidéos fait cependant face à une vague de critiques, notamment en Inde où elle est accusée de favoriser la diffusion de discours haineux. Tout comme Facebook ou Snapchat, TikTok n’a pas de solution miracle à l’épineuse question de la modération.

En Inde, TikTok est vecteur de haine


À Thalavedu, un village situé à l’ouest de Chennai, en Inde du Sud, le réseau social chinois est au coeur d’un événement tragique ayant entraîné la mort de deux personnes.
En janvier 2019, Venkataraman (26 ans) et Vijay (17 ans) passent ensemble une soirée alcoolisée. Ils se filment en train d'insulter la caste des Dalits (les anciens "intouchables", la classe sociale la plus discriminée dans le système de stratification rigide et hiérarchique des castes indiennes), dans laquelle ils appellent à les “massacrer”. La vidéo reste privée pendant plusieurs semaines, avant d’être finalement partagée sur TikTok par un tiers. Au lendemain de cette publication, un groupe de Dalits s’insurge, bloque le village et prend d’assaut la maison de l’un des auteurs de la vidéo.
Face à l’ampleur de la réaction, et à l’intervention de la police, Venkataraman prend la fuite. Peu de temps après, le corps de Vijay est retrouvé par les autorités locales. Une semaine plus tard, Venkataraman se rend et confesse avoir rejoint puis tué lors d’une dispute son ami à qui il reprochait la diffusion de la vidéo. Il se suicide après plusieurs mois d’incarcération.

La popularité de TikTok repose principalement sur le partage de vidéos musicales mais la plateforme héberge de plus en plus de discours haineux. Dans un pays toujours largement organisé par le système de caste qui assigne à chacun une position sociale fixe selon sa naissance, et traversé d'importantes tensions sociales, ethniques et religieuses (attisées par le parti nationaliste au pouvoir, le BJP ), l’application est régulièrement impliquée dans des appels à la haine , des menaces et des appels au meurtre.
Sur TikTok, les Dalits et d’autres castes considérées comme “inférieures” sont la cible d’insultes et de menaces, tandis que les hashtags #nadar ou #vanniyar, qui renvoient à des castes plus élevées, font remonter des milliers de publications glorifiant leur suprématie.
Certaines fonctionnalités qui ont fait la popularité de Tik Tok chez les ados sont utilisées pour diffuser des appels à la haine. Par exemple, la synchronisation labiale (lip sync) — qui permet de faire semblant de chanter en rythme — est utilisée par certains adolescents pour faire du playback d’Ariana Grande… et par d’autres pour reprendre des discours appelant au massacre.
Pour les seuls mois de juin et juillet 2019, Wired a ainsi identifié plus de 500 vidéos TikTok appelant à la haine ou à la violence contre certaines castes ou communautés religieuses.
"TikTok promeut la créativité, et les contenus haineux ou violents n'ont pas leur place sur notre plateforme. Notre équipe de modération signale et dépublie les vidéos problématiques 24h/24 et 7j/7", a déclaré une porte-parole de TikTok au magazine. Elle a aussi assuré que les équipes de modération développaient de nouveaux outils de modération pour endiguer l'essor des contenus haineux. Mais les journalistes de Wired ont réussi à établir qu'entre novembre 2018 et avril 2019, seulement un dixième des vidéos signalées ont effectivement été supprimées par la plateforme, et seul 1% des comptes signalés ont été bannis. Tik Tok n’a toujours pas réussi à réduire le volume de discours haineux diffusés via son application.
Pour un directeur d'une association de défense des droits de l'homme en Asie du Sud-Est, interrogé par le magazine Screen Shot , "le problème de TikTok, c'est qu'ils ne sont pas très ouverts aux militants et ne communiquent pas beaucoup avec la société civile. Ils le font même moins que leurs équivalents américains. A mon avis, ils préfèrent payer les amendes et s'en laver les mains."

Un essor fulgurant ponctué de controverses


Cette application de partage de vidéos est extrêmement populaire auprès des adolescents de nombreux pays. Depuis quatre trimestres, elle est l’application la plus téléchargée de l’Apple Store mondial, devant les géants Instagram, WhatsApp, Snapchat et Facebook. Elle compterait aujourd’hui plus de 500 millions d’utilisateurs actifs.
Cet essor ne dépend pas du public chinois mais plutôt de l’expansion internationale de l’application (plus de 70 % de son parc d'utilisateurs se trouve hors de Chine) et surtout de l’Inde qui en est le véritable moteur : en janvier 2019, 43% des nouveaux utilisateurs étaient Indiens. Cependant, ce succès fulgurant s’accompagne d’une multiplication des polémiques qui se répandent bien au-delà de l’Inde.

Aux Etats-Unis, alors que la campagne pour les présidentielles est déjà bien lancée, le succès d’une application chinoise populaire auprès des adolescents suscite beaucoup de critiques — certains craignent que Pékin n’utilise TikTok à des fins d’espionnage. Une enquête fédérale a été ouverte pour éclaircir les conditions d’utilisations des données de millions d’Américains.
Mais la plupart des accusations concernent la faiblesse de la modération mise en place par TikTok : propagande djihadiste , censure politique de Pékin , avances sexuelles En réaction, l’Inde et l’Indonésie ont décidé d’interdire son téléchargement et forcé Google et Apple à la retirer de leurs boutiques en ligne. Mais ByteDance, qui possède TikTok, a fait appel et la Haute Cour de Chennai lui a donné raison. Elle a considéré l'interdiction abusive et préféré imposer à TikTok une obligation d’empêcher toute diffusion de “vidéos obscènes”.
En France, la police nationale a opté pour la sensibilisation des parents de jeunes utilisateurs.
Si le réseau social a déjà annoncé une série de mesures, l’ampleur de la tâche interroge plus largement la durabilité de notre conception actuelle de la modération sur les réseaux sociaux.

La modération sur les réseaux sociaux, une nécessité “vouée à l’échec” ?



Comment expliquer cette multiplication des contenus haineux sur les réseaux sociaux ? Pour Romain Badouard, maître de conférences en sciences de l’information et de la communication, la réponse se trouve aussi bien du côté des utilisateurs que de celui des plateformes : “Internet a libéré la parole en général, pour le meilleur mais aussi pour le pire. Et à cela s’ajoute une culture du débat propre aux réseaux sociaux qui tolère davantage le second degré, l’agressivité et les argumentaires violents”.
Mais l’architecture des plateformes a également un rôle important : “Dans les médias traditionnels les journalistes jouent le rôle de gatekeepers : ils filtrent les paroles et décident quels discours auront accès à la diffusion. Sur les réseaux sociaux, ce filtrage est exercé par les plateformes. Cependant, contrairement aux médias traditionnels, le filtrage des réseaux sociaux s’exerce a posteriori ce qui fait que les contenus sont publics par défaut”.

Mais la prolifération de contenus violents et d'appels à la haine pose des problèmes à la fois techniques et politiques aux plateformes , qui n'ont pas forcément les moyens techniques de repérer toutes les vidéos et peuvent résister à des approches qu'elles trouvent trop intrusives. Par exemple, Christine Dugoin-Clément, chercheuse en géopolitique, relève que : “Pour un système il est difficile de différencier un film de guerre d’une vidéo faisant l’apologie d’une tuerie. En outre, dans le cas de Christchurch [une tuerie visant deux mosquées néo zélandaises et diffusée en Facebook live pendant 17 minutes - ndlr], des trolls ainsi que des effets graphiques et des filtres pour modifier l’image ont trompé ce système de contrôle”. De leur côté, les modérateurs humains — en plus d'être exposés à des heures de contenus violents font face aux disparités culturelles et à l’évolution constante des règles de modération , ce qui rend leur tâche très complexe.

La modération est-elle donc vouée à l’échec ? Pour Romain Badouard, d’autres pistes de modération peuvent être explorées : “La modération by design est un premier début d'alternative. Elle consiste à inscrire dans le code source de la plateforme des outils de modération automatique qui permettent de responsabiliser davantage les internautes quant à ce qu'ils postent, tout en les laissant libres de s'exprimer. Une autre piste pourrait être les formes de modération collaborative, inspirées par exemple du fonctionnement de plateformes comme Wikipédia”.
Mais il ajoute également : “Il est impossible d’avoir des plateformes policées et débarrassées de tous contenus haineux. Pour cela il faudrait que la modération s’effectue avant la publication des contenus, ce qui est contraire au modèle des réseaux sociaux et impacterait très fortement notre liberté d’expression”.

Arthur Bamas


Les commentaires

Pour réagir à cet article, je me connecte Je m’inscris

Soyez le premier à réagir !

S’inscrire et participer

Inscrivez vous sur le Digital Society Forum pour commenter et réagir sur les articles et être informé des événements à venir

DSF