Emma* est une ado néerlandaise d’une petite ville au bord de la mer du Nord. Ces dernières années, elle a soigné son compte Instagram au point d’avoir, en novembre 2020, plus de 20 000 abonné·e·s. Puis, vers le 18 novembre 2020, son compte a été supprimé.
Nous avons contacté Emma, 18 ans, via Instagram, quelques jours avant que son compte ne disparaisse. Nous voulions savoir comment elle gérait les nombreux abus que subissent les créateurs, mais surtout les créatrices de contenus sur la plateforme. Comme de nombreuses autres, Emma est régulièrement « signalée » à Facebook (Instagram appartient à Facebook, les deux services sont gérés quasiment comme un seul ensemble). Une fois, nous a-t-elle dit, son compte a été désactivé au prétexte d’une usurpation d’identité. Une idée « stupide » étant donné la quantité de selfies qu’elle publie, nous dit-elle. Emma a finalement réussi à récupérer son compte après avoir parlé à un représentant de Facebook.
Au total, elle a été signalée « cinq ou six fois » en deux ans, mais a toujours réussi à récupérer son compte. Mais pas cette fois.
Un groupe d’Irakiens et de Saoudiens
Nous savions que le compte d’Emma était en danger parce qu’il avait été désigné comme cible dans un groupe Telegram que nous suivions. Dans ce groupe, quelques dizaines d’adolescents qui, à en juger par l’arabe qu’ils utilisent, vivent principalement en Irak et en Arabie saoudite, se font une fierté de bouter les utilisatrices d’Instagram hors de la plateforme. Ils claironnent leurs succès dans leurs propres stories, où l’on peut voir qu’ils s’en prennent en général à des jeunes femmes originaires d’Afrique du Nord et du Moyen-Orient. Mais ils frappent parfois en Europe.
Leur méthode est simple. Ils utilisent des programmes très basiques, disponibles sur GitHub, une plateforme de partage de code informatique, pour signaler automatiquement leurs victimes. En utilisant plusieurs comptes Instagram, un seul d’entre eux peut signaler une utilisatrice des dizaines de fois en quelques minutes. La plupart du temps, ils envoient des signalements pour spam, usurpation d’identité ou pour « suicide ou automutilation », une fonctionnalité introduite par Instagram en 2016. Après avoir reçu plusieurs de ces rapports, Facebook suspend le compte ciblé.
Un Irakien de 16 ans, qui se fait appeler « Zen », est membre de ce groupe. Il nous a dit qu’une fois qu’un compte est suspendu il contacte Facebook par e-mail et affirme que le compte lui appartient. Facebook lui demande, d’une manière qui semble être automatisée, d’envoyer une photo de lui tenant un morceau de papier avec un code à 5 chiffres. Dès réception de la photo, Facebook lui donne accès au compte suspendu, qui est réactivé. Une fois qu’il en a pris le contrôle, Zen revend le compte entre 20 et 50 dollars US, selon le nombre d’abonné·e·s.
Zen nous a dit que ses clients voulaient simplement avoir plus de followers, mais il n’est pas exclu que ces comptes alimentent un trafic plus vaste. Sur le site de vente de comptes Instagram SocialTradia, qui a pignon sur rue, un compte avec 2 000 followers coûte entre 100 et 200 dollars.
Des outils pour le signalement de masse
Un autre groupe, basé au Pakistan, a codé une extension pour le navigateur Chrome permettant d’automatiser le signalement de masse sur Facebook. Pour l’utiliser, il faut acheter une licence à 10 dollars US. Mais la version gratuite donne accès à une liste de cibles suggérées, mise à jour deux fois par mois environ. Nous avons pu identifier quatre cents cibles dans quarante pays, dont plusieurs en Europe.
Nous n’avons pas pu comprendre comment ce groupe sélectionnait ses victimes. Le développeur de l’outil, un Pakistanais d’une vingtaine d’années qui se fait appeler « Tiger », n’a pas répondu à nos questions. Parmi les cibles, on trouve des musulmans ahmadis (un mouvement religieux originaire du Pendjab), des indépendantistes baloutches et pachtounes, des militant·e·s LGBTQ+, des athées ou encore des féministes.
Mahmoud*, un athée vivant à Belfast, en Irlande du Nord, était sur leur liste. Bien qu’il ne sache pas s’il a été signalé massivement par les Pakistanais, il nous a dit avoir déjà été la cible de ce genre de groupes. Au cours des sept dernières années, « des centaines » de ses publications ont été supprimées à la suite de signalements de masse, nous a-t-il dit.
Facebook, régulièrement mis en cause pour la fermeture ou la suspension de comptes, et très récemment en France avec des militantes féministes, n’a pas souhaité répondre à nos questions précises. Le groupe nous a fait parvenir le commentaire suivant, que nous publions in extenso : « Nous n’autorisons pas les gens à abuser de nos systèmes de signalement pour harceler les autres, et nous avons investi considérablement dans des technologies permettant de détecter les comptes participant à des signalements coordonnés ou automatisés. Il y aura toujours des gens qui essaient de malmener nos systèmes, mais nous nous efforçons de garder une longueur d’avance et de perturber cette activité autant que possible. »
Des milliers de victimes
Nous avons examiné les outils de Zen, de Tiger et de leurs acolytes. Ils ne nécessitent aucune compétence particulière et peuvent en général être exécutés à partir d’un smartphone. Signaler automatiquement des utilisatrices et utilisateurs à Facebook et Instagram est si facile que des jeunes hommes dans le monde entier en ont fait leur fonds de commerce. À en juger par les dizaines de programmes disponibles sur GitHub et les milliers de tutoriels vidéo sur YouTube, il est probable que de nombreux autres groupes opèrent de la même manière.
Nous avons interrogé 75 utilisatrices et utilisateurs de Facebook en Grande-Bretagne ; 21 d’entre elles et eux nous ont dit avoir déjà été bloqué·e·s ou suspendu·e·s par la plateforme. Une Écossaise de 56 ans avait, par exemple, créé un groupe, « Let Kashmir Decide ». Elle nous a dit que Facebook l’avait désactivé en septembre 2020, arguant qu’il « enfreignait les règles de la communauté », probablement en raison d’un signalement massif.
Lutter contre le harcèlement et les signalements de masse sur Facebook demande une énergie considérable, ne serait-ce que pour récupérer l’accès à son compte. Certain·e·s jettent l’éponge. Une jeune femme de 30 ans vivant à Berlin nous a dit qu’elle avait abandonné les réseaux sociaux après des abus répétés, y compris des signalements de masse.
N’avoir pas accès à l’univers Facebook limite évidemment sa capacité à participer à la vie publique, puisqu’une grande partie du débat s’y est déplacée. Mais le problème dépasse la liberté d’expression. Avec la pandémie, de plus en plus de services publics migrent vers Instagram, leurs organismes de tutelle n’ayant rien prévu pour leur permettre de rester en lien avec leurs usagers. Certains hôpitaux en Allemagne, par exemple, ont remplacé leurs réunions publiques d’information par des live sur Instagram. Celles et ceux qui n’ont pas de compte ne peuvent pas y participer.
Le DSA à la rescousse
Le 15 décembre, la Commission européenne a proposé de nouvelles règles pour remédier aux failles de la fonction « signaler cet utilisateur », dans le cadre de la loi sur les services numériques (Digital Services Act, ou DSA). Le texte doit encore passer par le Parlement et le Conseil européen avant d’avoir force de loi.
La proposition de la Commission obligerait les plateformes comme Facebook à être plus transparentes envers les utilisatrices et utilisateurs lorsqu’une publication ou un profil est signalé et supprimé. En particulier, les plateformes devront mettre en place des systèmes de traitement des plaintes permettant aux utilisatrices et utilisateurs signalés de contester une décision.
Facebook a déjà un tel système en place. Cependant, aucune des victimes de signalement massif à qui nous avons parlé n’a pu obtenir gain de cause par les canaux normaux. Emma, l’adolescente néerlandaise qui a récemment perdu son compte Instagram, a déclaré qu’elle avait dû passer son Instagram à un compte « business » pour pouvoir contacter quelqu’un chez Facebook. C’est finalement quelqu’un de Facebook France qui l’a aidée, bien qu’elle soit des Pays-Bas. Emma ne sait pas pourquoi ni comment sa requête a atterri sur le bureau d’un Français. « J’avais parlé à tellement de gens [chez Facebook] avant lui que j’ai pensé que, comme les autres, il ne pourrait pas m’aider. Mais j’ai reçu un e-mail de Facebook France quelques jours plus tard me demandant d’envoyer une photo de ma carte d’identité. Cinq minutes après, j’ai retrouvé l’accès à mon compte. »
Trista Hendren, qui vit en Norvège, raconte, elle aussi, l’arbitraire des procédures de recours de Facebook. En tant qu’éditrice de livres féministes, elle a été la cible de plusieurs campagnes de haine ou de signalement massif ces huit dernières années. Elle était encore, en novembre, une cible désignée par le groupe pakistanais. Hendren nous a dit qu’aucune des procédures qu’elle a lancées par les canaux normaux n’a jamais abouti. Pour elle, le seul moyen de rétablir un compte ou une publication est d’avoir un contact direct avec un·e employé·e de Facebook.
Liberté d’expression pour les riches
La loi sur les services numériques (DSA) de la Commission européenne prévoit de résoudre ce problème en créant des cours d’arbitrage qui prendraient en charge les litiges que les mécanismes internes n’ont pas pu résoudre.
Mais les utilisatrices et utilisateurs devront payer pour utiliser ces tribunaux privés (ils seront remboursés s’ils gagnent leur recours). Avec un tel système, « lutter pour son droit à la liberté d'expression [pourrait devenir] un privilège pour ceux qui en ont les moyens », nous a dit l’Allemand Tiemo Wölken, membre du Parlement européen (groupe Socialistes et démocrates) et rapporteur sur le DSA.
Le DSA introduit aussi une obligation d’interdire les abus de la part des utilisateurs qui font des signalements de mauvaise foi. Mais il y a peu de chances que ce mécanisme améliore quoi que ce soit. Dans une logique kafkaïenne, tout signalement est considéré comme étant fait de bonne foi. Et comme les plateformes ont une obligation de réagir à tout signalement fait de bonne foi, elles continueront probablement à « supprimer d’abord et poser des questions plus tard », comme le dit Wölken.
