Facebook augmente ses effectifs pour retirer les meurtres en vidéo de sa plateforme

Gestion de crise

Alors que Facebook compte déjà sur une équipe de 4 500 personnes assignées à cette tâche, Mark Zuckerberg a annoncé aujourd’hui vouloir augmenter de 3 000 le nombre de modérateurs d’ici la fin de l’année.

Au cours des dernières semaines, plusieurs incidents de grande envergure ont fait couler beaucoup d’encre dans les médias, attirant par conséquent les foudres contre l’incontournable réseau social, accusé d’ingérence en matière de modération.

Le partage sur Facebook de plusieurs vidéos liées à un meurtre commis à Cleveland le mois dernier a d’abord donné du fil à retordre à l’entreprise, qui n’a pas été en mesure de répondre avant le drame, ni même de retirer le contenu dans un délai jugé acceptable. En réponse à cette tragédie, Facebook a promis qu’elle devait faire mieux.

Mais quelques jours plus tard, une nouvelle tuile s’est abattue sur le réseau social, alors qu’un père en Thaïlande a filmé en direct le meurtre de sa fille de 11 mois avant de se suicider, et que les deux diffusions sont demeurées accessibles sur Facebook pour près de 24 heures.

«Nous ajouterons 3 000 personnes à notre équipe responsable des opérations de la communauté à l’échelle internationale […] afin d’évaluer les millions de signalements que nous recevons chaque semaine, et d’en accélérer le processus.»

Face à cette pression, le PDG Mark Zuckerberg a expliqué ce matin comment son entreprise allait corriger le tir.

«Si nous voulons construire une communauté sécuritaire, nous devons réagir rapidement», a-t-il écrit sur son profil Facebook. «Nous travaillons à faciliter le signalement de ce type de vidéos afin que nous puissions prendre les mesures nécessaires encore plus tôt – que ce soit dans notre rapidité à répondre à quelqu’un dans le besoin ou retirer une publication.»

«Au cours de la prochaine année, nous ajouterons 3 000 personnes à notre équipe responsable des opérations de la communauté à l’échelle internationale – sur les 4 500 personnes sur qui nous comptons aujourd’hui – afin d’évaluer les millions de signalements que nous recevons chaque semaine, et d’en accélérer le processus.»

Zuckerberg n’a pas précisé exactement quelle sera la relation de ces nouveaux modérateurs avec son entreprise. Mais comme le souligne The Verge, il y a fort à parier que Facebook s’alliera avec des entreprises externes pour effectuer ce type de modération – une pratique déjà courante dans l’industrie.

«En plus d’investir dans l’augmentation de nos effectifs, nous travaillons également sur le développement de meilleurs outils visant à maintenir notre communauté en sécurité», a-t-il ajouté. «Nous allons simplifier la façon de nous signaler de tels problèmes, en accélérer le traitement par nos modérateurs afin de déterminer les contenus qui sont en violation avec nos politiques, et faciliter le contact avec les forces de l’ordre lorsque quelqu’un a besoin d’aide.»

Le signalement de contenus inappropriés par ses utilisateurs demeure le moyen le plus efficace pour en éradiquer leur propagation.

«C’est très important. Par exemple, la semaine dernière, nous avons reçu le signalement à propos d’un Live d’une personne qui songeait à se suicider. Nous avons immédiatement fait appel aux forces de l’ordre qui ont pu lui prêter assistance et empêcher cette personne de se blesser. Dans d’autres cas, nous n’avons malheureusement pas eu cette chance.»

«Personne ne devrait se retrouver dans cette situation en premier lieu, mais si c’est le cas, il faut alors construire une communauté sécuritaire pouvant procurer à ces personnes l’aide dont elles ont besoin.»

Rappelons que les contenus qui présentent ou font l’apologie de la violence contreviennent aux règles d’utilisation de Facebook. Si l’entreprise est aujourd’hui réputée pour sa capacité à bénéficier de l’intelligence artificielle pour identifier quoi que ce soit sur sa plateforme, le signalement de contenus inappropriés par ses utilisateurs demeure le moyen le plus efficace pour en éradiquer leur propagation.