En 2017, plus de 700 000 personnes fuyaient la Birmanie pour le Bangladesh afin d’échapper aux atrocités commises par les forces armées du Pays. Victimes d’une campagne de nettoyage ethnique, des milliers de Rohingyas ont été torturés, tués. Des femmes ont été sauvagement violées. L’affaire avait commencé en juillet 2014. à Mandalay, la deuxième ville de Birmanie. Une flambée de violence éclatait entre des groupes bouddhistes et musulmans, faisant deux morts et 14 blessés. Un post sur Facebook affirmait que des jeunes musulmans avaient violé une jeune femme bouddhiste : c’était un fake.
Si ce contenu Facebook a circulé comme une trainée de poudre en déclenchant des émeutes, c’est que le système algorithmique de Meta l’avait identifié comme ‘’positif’’, au vu du nombre de commentaires enthousiastes. Le même phénomène a été constaté lors de l’attaque sur le Congrès américain, en janvier 2021. Les cas de conditionnement en ligne à la barbarie sont en fait fréquents.
La haine virtuelle a contribué à la transposition des violences dans la vie réelle. Les algorithmes de Facebook – une enseigne de Meta – ont permis la diffusion d’une majeure part des messages d’appels à la haine et à la violence contre les Rohingyas. La stigmatisation de cette communauté musulmane, comparable à celle des Juifs sous le régime nazi, s’est généralisée à tout le pays. Meta le savait. Meta n’a rien fait. ‘’Nous déclarons ouvertement et catégoriquement que notre pays n’a pas de race Rohingya’’ : ce message a été publié sur Facebook par le général en chef de l’armée du Myanmar, Min Aung Hlaing. À ces messages du plus haut niveau de l’armée, s’ajoutaient des milliers des messages de haine : ‘’Les musulmans sont des chiens qui doivent être abattus’’ … ‘’Ne les laissez pas vivre ! Éliminez totalement cette race, le temps presse !’’. Voici le type messages qui circulaient dans un pays du Sud où Facebook constitue l’accès principal à l’internet. La plateforme américaine y est omniprésente, et, hélas, perçue par la population comme la meilleure source d’information disponible.
Le modèle économique de Facebook, basé sur la surveillance et le profit à tout prix, se soucie peu de mettre en danger toute une communauté. Beaucoup d’ONG estiment que Meta devrait verser des réparations aux Rohingyas. Et que ceux-ci seraient justifiés à lui intenter un procès criminel. Ils sont désormais en majorité réfugiés dans le camp géant de Cox’s Bazar, au Bangladesh et n’ont aucune perspective de retour. Un parallèle pourrait être fait avec la ‘Radio des mille collines’ du Rwanda qui avait exercé un rôle majeur dans le déclenchement du génocide des Tutsi en 1994.
Les contenus les plus commentés et partagés, occupent une place privilégiée dans le fil d’actualités de Facebook. Pour cette raison, l’algorithme identifie certains posts comme populaires et promeut leur diffusion comme celle de contenus similaires. Il est problématique que ces publications, qui font réagir, peuvent promouvoir des messages de haine. Les systèmes algorithmiques donnent en fait la priorité aux contenus les plus incendiaires, les plus susceptibles de maximiser leur audience. Quand un groupe d’internautes se fanatise collectivement, les effets portés font boule de neige sur les réseaux. La violence immatérielle diffusée sur les écrans se meut en une violence physique frappant des innocents.
Facebook ne peut techniquement modérer que 2% des discours de haine qui circulent sur sa plateforme, qui dessert près de 3 milliards d’utilisateurs à travers le globe. Plus de modération lui imposerait un coût. Celle-ci peut réduire la diffusion des discours de haine, mais nullement les contrôler. Elle ne maîtrise pas la massification des contenus haineux ou violents, permis par les algorithmes. Concernant la Birmanie comme de nombreux autres cas, Meta n’a rien fait et ne fera rien : l’entreprise américaine s’est abstenu, à plusieurs reprises, d’exercer la diligence requise en matière de droits humains concernant ses opérations dans des pays fragiles. Sans doute, Mark Zuckerberg ira un jour exprimer sa (grande) contrition ad post auprès de quelque autorité birmane plus sourcilleuse que la junte militaire au pouvoir … comme il le fait, tous les quinze jours, devant le Congrès de Washington, sans bien sûr jamais rien changer à ses méthodes.