Facebook est sous le feu de nouvelles révélations concernant sa gestion des commentaires haineux, des appels à la violence et d’autres contenus socialement explosifs. Cette fois, l’accent est mis sur l’Inde, le plus grand marché de l’entreprise américaine avec environ 340 millions d’utilisateurs du réseau social et près de 400 millions d’utilisateurs du service de messagerie associé WhatsApp.
Selon des rapports de médias et d’agences de presse américains, l’entreprise n’a pas pris de mesures adéquates contre les contenus préjudiciables sur ses plateformes indiennes, malgré des avertissements internes. Selon les rapports, les employés de Facebook en Inde ont remarqué une forte augmentation d’éléments tels que des rumeurs et des incitations à la violence à partir de décembre 2019.
La situation aurait été particulièrement dramatique sur WhatsApp en février de l’année dernière, lorsque de nombreuses personnes sont mortes dans de violents affrontements entre hindous et musulmans sur le sous-continent. L’opérateur de plateforme a ensuite envoyé des dizaines de ses propres analystes dans le pays pour interroger les utilisateurs sur leur expérience des recommandations algorithmiques.
En février 2019, un chercheur de Facebook a créé le compte d’un nouveau membre pour savoir ce que ressentait une personne vivant dans la ville indienne de Kerala en utilisant le réseau. Le New York Times explique l’expérience. Selon le rapport, le compte a respecté une règle simple : « Suivre toutes les recommandations générées par les algorithmes de Facebook pour rejoindre des groupes, regarder des vidéos et explorer de nouvelles pages sur le site.
Sommaire
Facebook montre des photos du défunt
» Le résultat a été » choquant « , selon un rapport interne produit plus tard ce mois-là : il avait » vu plus de photos de personnes mortes au cours des trois dernières semaines que dans toute ma vie « , a écrit l’analyste. « Le fil d’actualité de l’utilisateur testé est devenu un barrage quasi-constant de contenus nationalistes polarisants, de désinformation, de violence et de bains de sang. »
Les fichiers montreraient que Facebook était au courant des problèmes depuis des années. Les critiques se plaignent que l’entreprise n’en a pas fait assez, surtout dans les cas impliquant des membres du parti au pouvoir du Premier ministre Narendra Modi. La propagande hindoue, notamment anti-musulmane, a ainsi pu se répandre presque sans entrave via ces plateformes.
Les documents montreraient que le groupe californien considérait l’Inde comme l’un des « pays les plus vulnérables » du monde et avait identifié l’hindi et le bengali comme des priorités d’automatisation dans sa recherche de violations des règles communautaires sur les discours hostiles.
Trop peu de modérateurs
Néanmoins, il n’y avait pas assez de modérateurs dans la langue locale ou un étiquetage suffisant du contenu pour éviter la désinformation. Les documents internes font partie d’une plus grande collection de documents sous le titre « The Facebook Papers ». Elles proviennent de Frances Haugen, une ancienne responsable de produit de la société qui a récemment dénoncé publiquement la situation.
Selon les rapports, des références à l’Inde ont été trouvées à plusieurs endroits dans les documents que Haugen a déposés dans le cadre d’une plainte auprès de la Commission américaine des valeurs mobilières et des changes au début du mois. Quatre-vingt-sept pour cent du budget mondial de classification de la désinformation de Facebook est destiné aux États-Unis et seulement 13 % au reste du monde, selon les rapports.
Un porte-parole de la société a rétorqué que les chiffres ne tenaient pas compte des partenaires chargés de la vérification des faits, dont la plupart étaient basés en dehors des États-Unis. Facebook a investi beaucoup d’argent dans la technologie pour trouver les discours de haine dans différentes langues, notamment l’hindi et le bengali, a-t-il déclaré. L’opérateur a réduit de moitié cette année la quantité de contenu pertinent que les gens voient dans le monde, a-t-il déclaré.