Devant les députés européens, lundi 8 novembre, Frances Haugen sera ensuite auditionnée par l’Assemblée nationale et le Sénat français mercredi 10 novembre. La lanceuse d’alerte est connue pour avoir révélé que l’algorithme de Facebook peut favoriser le partage de contenus haineux. Comme le rappelle La Croix, en France, plusieurs procès aident à comprendre les ressorts individuels de la haine en ligne et la responsabilité des réseaux sociaux dans cette diffusion.

La découverte de l’ex-employée de Facebook offre un regard neuf sur la compréhension de l’impact des réseaux sociaux sur les relations humaines et le débat public. “La version de Facebook qui existe actuellement déchire nos sociétés”, a dénoncé l’Américaine, pour qui le réseau social encourage la diffusion des contenus haineux. Un constat qui vaut également pour les autres plateformes. Selon elle, une refonte de l’algorithme de Facebook, engagée à partir de 2018 dans le but de stimuler l’engagement des inscrits a – dans le même temps – favorisé la visibilité des contenus les plus polémiques. Mais pour Facebook, pas question d’évoluer. “Facebook savait qu’en changeant l’algorithme pour le rendre plus sûr, les gens allaient passer moins de temps sur le site, cliquer sur moins de publicité, et leur rapporter moins d’argent”, affirme Frances Haugen.

“C’est impulsif”

En France, différentes affaires judiciaires de cyberharcèlement ont prouvé la facilité avec laquelle les comportements violents se développent sur les réseaux sociaux. “Les prévenus tombaient des nues d’être poursuivis pour avoir menacé de brûler ou de décapiter Mila. Ils n’avaient aucune explication à part : ‘C’est comme ça que je parle sur les réseaux’, ‘c’est pas grave’ (…) ‘c’est impulsif’, explique au quotidien Richard Malka, l’avocat de Mila, une adolescente victime de cyberharcèlement pour avoir tenu des propos injurieux envers l’islam. Les tweets antisémites visant April Benayoum, lors du concours Miss France 2021, témoignent eux aussi de la “difficulté” de certains des prévenus à “comprendre la portée” de leurs propos, selon le tribunal. Dans cette affaire, sept personnes ont écopé d’amendes allant de 300 à 800 €, le 3 novembre dernier. “Pendant l’audience, nous avions le sentiment que les prévenus étaient presque énervés d’être là”, détaille au quotidien une avocate de la miss.

Les ressorts psychologiques de la désinhibition sur Internet sont déjà bien connus. L’anonymat procure un sentiment d’impunité. Mais il y a aussi “le fait de ne pas voir la réaction de la personne agressée et le décalage temporel entre l’envoi du message et le moment où il est vu”, souligne Simruy Ikiz, psychologue et auteure d’une étude sur les violences envers les femmes sur les réseaux sociaux. D’autres affaires mettent également en avant l’envie d’exister de certains auteurs de posts et l’importance du phénomène d’emballement qu’engendrent ces plateformes. “Tous les prévenus réagissaient aux TT, ou Trending Topics, la liste des sujets les plus mentionnés sur Twitter. La plupart ne savaient même pas ce que Mila avait dit, mais ils cherchaient à exister et à rejoindre une communauté. Alors ils ont pris le train en marche”, décrit l’avocat Richard Malka.

Être vu

Romain Badouard, maître de conférences en science de l’information et de la communication à l’université Paris 2 Assas, explique que la violence en ligne est aussi un moyen d’attirer l’attention dans un espace où il faut être vu. Elle permet aussi de délégitimer les opinions contraires. Du côté des plateformes, ces affaires ont servi à rappeler que leur responsabilité ne se limite pas à la modération et au signalement des contenus haineux. La manière dont elles sont faites joue un rôle sur la manière dont les internautes s’y expriment. Ainsi, Twitter a été montré du doigt en raison de la limitation de la taille de ses messages, qui encourage la radicalité et l’invective. Comme l’usage de l’arobase, pour citer un autre utilisateur.

Pour preuve, les mots “please” [s’il vous plaît] et “thank you” [merci] ont respectivement progressé de 54 % et 22 % dans les mois qui ont suivi la décision de Twitter de doubler la taille maximale des posts.