Facebook / censure : les femmes protégées, pas les adolescents

Comment Facebook modère-t-il ses contenus ? Très critiqué après avoir supprimé la photo de la petite fille napalmée, l'entreprise se montrait jusque-là très discrète sur les modalités de ses suppressions de contenus. Mais le quotidien allemand Süddeusche Zeitung s'est procuré des documents internes de la société, dévoilant des formules mathématiques un peu absurdes et des conditions de travail difficiles.

Que peut-on dire ou publier sur Facebook ? Depuis plusieurs mois, les choix de modérateurs de Facebook, alertés par le signalement des internautes, laissent parfois perplexe. Les documents publiés par le quotidien allemand vendredi 16 décembre - et épluchés par Le Monde - permettent de comprendre (un peu mieux) comment Facebook décide de ce qui est acceptable, ou non, sur son réseau.

On savait déjà (c'est inscrit dans dans les "standards de la communauté") que Facebook supprimait tout discours incitant à la haine ou s'attaquant directement à des personnes en raison de leur race, leur ethnie, leur origine nationale, leur religion, leur orientation sexuelle, leur sexe ou identité sexuelle, leur infirmité ou état de santé. Dans les documents du quotidien allemand, on apprend que les seniors, les jeunes, les enseignants, les docteurs, les chômeurs, les riches et les pauvres entrent aussi dans cette "catégorie protégée".

Pour décider de ce qu'il faut supprimer, ou pas, les équipes de Facebook appliquent ensuite une formule mathématique. L'exemple donné dans les documents internes de Facebook ? Les "femmes" sont protégées, les "Irlandais" aussi, mais pas les "adolescents". Et dans les règles édictées par la société, si une catégorie protégée s'additionne avec une catégorie non protégée, c'est la seconde qui l'emporte. Il est donc possible, sur Facebook, de dire "les adolescents irlandais sont stupides", mais pas "les femmes irlandaises sont stupides". Aussi simple (et absurde) que cela.

L'un des documents internes publiés par le quotidien allemand

"Il est aussi précisé que si les membres d’un groupe religieux sont protégés, la religion elle-même ne l’est pas. La même règle vaut pour les pays, qui ne sont pas protégés, contrairement à leurs habitants. Ainsi, il est possible d’attaquer l’islam ou le christianisme, mais pas les musulmans ou les chrétiens", ajoute Le Monde.

600 personnes à Berlin (et d'importants problèmes psychologiques)

La Süddeutsche Zeitung a aussi obtenu des informations sur les conditions de travail des modérateurs, dont on ignorait jusque-là le nombre. Le quotidien allemand évoque une équipe de 600 personnes, payés juste au-dessus du salaire minimum, qui travailleraient à Berlin pour un sous-traitant, Arvato (ce que Facebook a depuis confirmé).

"Ces personnes sont payées pour supprimer les publications offensantes sur Facebook le plus rapidement possible – et elles se sentent souvent mal préparées. Beaucoup se plaignent que les règles sur ce qui devrait être supprimé ou non ne soient pas claires, s’estiment stressées et surchargées. Un certain nombre d’employés ont aussi fait part d’importants problèmes psychologiques, à cause de leur exposition fréquente à des contenus choquants, comme des images de torture, de meurtre ou pédopornographiques", écrit le quotidien allemand traduit par Le Monde. Facebook n'a pas souhaité confirmer l'authenticité de ces documents.