Instagram a qualifié l’une des mosquées les plus sacrées de l’islam d’organisme terroriste

Instagram a supprimé des publications et bloqué des hashtags sur l’une des mosquées les plus sacrées de l’Islam, car son système de modération de contenu a associé par erreur le site à une désignation que la société réserve aux organisations terroristes, selon les communications internes des employés vues par BuzzFeed News. L’erreur n’est que le dernier échec de modération de contenu d’Instagram et de sa société mère Facebook, qui a fait face à des accusations d’utilisateurs du monde entier selon lesquelles c’est un contenu censuré sur l’agression israélienne envers les Palestiniens.

L’erreur, qui a été signalée en interne par des employés bouleversés mardi, a amené Instagram à supprimer ou à bloquer les publications contenant des hashtags pour la mosquée Al-Aqsa, le troisième site le plus sacré de la foi islamique. Depuis vendredi, la mosquée est le lieu des affrontements entre les forces de police israéliennes et les Palestiniens, dont beaucoup s’étaient rendus sur le site pour prier pendant les derniers jours du Ramadan.

Afin d’attirer l’attention sur la violence, les utilisateurs d’Instagram ont publié des vidéos portant le hashtag #AlAqsa ou ses homologues arabes # الاقصى ou # الأقصى, pour constater que leurs publications avaient été supprimées ou masquées des résultats de recherche. Certaines notifications ont montré qu’Instagram, qui appartient à Facebook, a supprimé les publications parce qu’elles étaient associées à «de la violence ou à des organisations dangereuses». Lorsque les employés ont pris connaissance des renvois et de la justification de ceux-ci, certains ont déposé des plaintes internes.

Dans un cas, un employé a vu qu’Instagram avait supprimé une infographie décrivant la situation à Al-Aqsa, en raison de son association avec «la violence ou une organisation terroriste». Après que l’employé a déposé un grief, ils ont écrit dans un message interne, ils ont été informés que l’image avait été retirée «sur la base d’une référence à« alaqsa »qui est une organisation désignée», un terme Facebook qui fait référence à «individus et organisations dangereux. » (Le contenu a finalement été restauré à la suite de la plainte.)

« Ces deux erreurs et bien d’autres sont tout à fait inacceptables », a écrit mardi l’employé de Facebook sur une plateforme de communication interne. «Al-Aqsa est le 3ème site le plus saint de l’Islam et est un aspect central de la foi pour quelque 1,8 milliard de personnes.»

La censure par Facebook des publications sur Al-Aqsa intervient pendant une période de tensions et de violences extrêmes dans la région. Jusqu’à présent 53 Palestiniens, dont plus d’une douzaine d’enfants, et six Israéliens sont morts, et plus de 300 personnes ont été blessées depuis que les combats ont éclaté la semaine dernière. Alors que les gens ont utilisé Instagram et Facebook pour diffuser des informations depuis le terrain – des expulsions forcées de Palestiniens dans le quartier de Sheikh Jarrah à Jérusalem-Est aux violences à Al-Aqsa – certains ont trouvé leurs publications bloquées ou supprimées.

Pour les critiques et même certains employés, les derniers échecs de modération de contenu de Facebook sont la preuve du manque de compréhension et de ressources de la société américaine dans la région, et montrent à quel point même des erreurs imprudentes peuvent avoir un impact démesuré lorsque ses produits sont utilisés par plus de 3 milliards de personnes. le monde.

Facebook a déjà dit Centre d’information du Moyen-Orient The National que les publications avec les hashtags Al-Aqsa «ont été restreintes par erreur», mais un message interne obtenu par BuzzFeed News mercredi est allé plus loin, notant que le contenu a été supprimé car Al-Aqsa «est également le nom d’une organisation sanctionnée par le gouvernement des États-Unis. « 

Un porte-parole de Facebook a refusé de commenter au-delà de ce qui figurait dans le message interne de mercredi.

La semaine dernière, les utilisateurs palestiniens d’Instagram se sont également plaints du fait que les histoires Instagram, ou les vidéos et images éphémères qui durent 24 heures sur la plate-forme, sur le conflit étaient également supprimées. Vendredi, la société a attribué cette erreur à un bug sur le réseau social qui affectait les utilisateurs partageant des histoires dans le monde entier.

Ces erreurs ont déclenché une réflexion chez certains employés de Facebook. Dans un message publié ce week-end, un employé a écrit dans un groupe interne que «la perception externe est que FB fait taire en temps opportun le discours politique et s’excuse plus tard.»

« Certains de ces incidents sont des erreurs d’examen humain et d’autres sont automatisés. Je ne connais pas ce qui est le plus répandu, mais pourquoi les décideurs ne peuvent-ils pas utiliser l’expertise locale dans le [Middle East and North Africa] région comme Public Policy ou Comms et consultez-les avant de prendre la décision de supprimer les hashtags sensibles ou le contenu politique », ont-ils écrit, avant de partager des captures d’écran de divers utilisateurs se plaignant que leurs publications Instagram avaient été censurées. Ils ont également noté que les utilisateurs d’Instagram du monde entier avaient lancé une campagne pour donner de mauvaises notes aux applications Instagram dans le Google Play Store.

En réponse, Guy Rosen, vice-président de l’intégrité de Facebook, a écrit un jour plus tard que l’entreprise avait des équipes «qui triaient et débloquaient tous les problèmes au fur et à mesure qu’ils se présentaient».

Cet effort n’a cependant pas empêché la suppression continue du contenu de la mosquée Al-Aqsa, où le conflit a commencé vendredi dernier lorsque la police israélienne a pris d’assaut les Palestiniens. qui avait rassemblé pour observer le dernier vendredi du mois sacré musulman du Ramadan. Les plaintes concernant la censure du contenu avec les hashtags Al-Aqsa se sont poursuivies mardi, lorsque l’employé concerné a signalé la suppression incorrecte d’un poste.

Alors qu’il y a une coalition palestinienne armée en Cisjordanie connue sous le nom de Brigades des martyrs d’Al-Aqsa qui a été considérée comme une entité terroriste par les États-Unis et l’Union européenne, et d’autres organisations du même nom comme la Fondation Al-Aqsa sont considérés comme faisant partie de son réseau de soutien par le gouvernement américain, l’employé critique de Facebook a déclaré que ce n’était pas une excuse pour censurer les hashtags de la mosquée Al-Aqsa.

«S’il y avait un groupe désigné appelé les fauteurs de troubles de Washington et des messages qui mentionnaient simplement que le mot Washington était supprimé, cela aurait été tout à fait inacceptable», ont-ils écrit. «Je tiens vraiment à souligner que cette partie de notre base d’utilisateurs se sent déjà aliénée et censurée et qu’après avoir rencontré tant de problèmes comme ceux-ci, qu’ils soient techniques ou liés aux produits, nos utilisateurs ne nous donneront pas le bénéfice du doute.»

Mercredi, un employé de l’équipe chargée de la politique des organisations et individus dangereux de l’entreprise a écrit dans son message interne que le terme Al-Aqsa (الأقصى) « ne devrait pas et ne viole pas nos politiques. »

«Comme beaucoup d’entre vous l’ont souligné à juste titre, le simple fait d’utiliser le même nom qu’une organisation désignée ne rend pas le lieu et l’organisation identiques», ont-ils écrit. «Nos politiques ne prévoient pas le déplacement de personnes, de lieux ou de choses qui partagent simplement un nom avec une organisation désignée – donc tout déplacement basé uniquement sur une mention du nom de la mosquée est certainement une erreur d’application et n’aurait jamais dû se produire sous Nos politiques. »

D’autres étaient moins confiants dans l’explication interne de Facebook. Ashraf Zeitoon, qui a été responsable de la politique de Facebook pour la région du Moyen-Orient et de l’Afrique du Nord de 2014 à mi-2017, a noté que la société employait certains des meilleurs experts en terrorisme au monde qui pourraient sûrement distinguer les mentions d’Al-Aqsa de la Brigades des martyrs d’Al-Aqsa.

«Qu’ils aillent identifier un mot d’un nom à deux mots comme associé à une organisation terroriste est une excuse boiteuse», a-t-il dit, notant qu’il était impliqué dans la rédaction de politiques sur la manière dont l’entreprise désignait les groupes terroristes et leur contenu. «Ils sont plus qualifiés que cela et plus compétents que cela.»

Zeitoon a cité une crainte interne chez Facebook de bouleverser les intérêts israéliens et de surévaluer le contenu comme des raisons potentielles pour lesquelles les vidéos et les images d’Al-Aqsa ont été supprimées.

En réponse, un porte-parole de Facebook a déclaré à BuzzFeed News que le contenu d’Al-Aqsa avait été restreint en raison d’une erreur humaine et non en raison de demandes du gouvernement.

La suppression et le blocage par Facebook de certains contenus palestiniens ont poussé les employés du réseau social à s’exprimer en interne. Avant une réunion régulière à l’échelle de l’entreprise jeudi qui devrait être dirigée par le PDG Mark Zuckerberg, certains travailleurs ont commencé à voter pour une question qui posait: «Nos systèmes d’intégrité échouent aux groupes marginalisés (voir: Palestine, BLM, femmes autochtones). Que ferons-nous à ce sujet? »

La question se trouve en bas de la liste des principales questions, derrière au moins trois questions différentes sur les politiques de travail à domicile de Facebook et une se demandant si Mark Zuckerberg accueillera un jour Saturday Night Live, après une apparition du PDG de Tesla, Elon Musk, à l’émission de variétés le week-end dernier.

Dans une autre question, un employé a demandé si Facebook déplacerait son bureau régional de Tel Aviv, auquel certains employés palestiniens américains ne peuvent pas accéder en raison des restrictions israéliennes. Notant que Human Rights Watch avait a désigné Israël comme État d’apartheid, ils ont demandé si Facebook reconsidérerait un jour son emplacement dans la ville israélienne.

Un porte-parole de Facebook a refusé de commenter la question.