Révélé : Meta a approuvé des publicités politiques en Inde incitant à la violence | Inde

Meta, propriétaire de Facebook et d'Instagram, a approuvé une série de publicités politiques manipulées par l'IA lors des élections indiennes qui diffusaient de la désinformation et incitaient à la violence religieuse, selon un rapport partagé exclusivement avec Centre al forquane.

Facebook a approuvé des publicités contenant des insultes connues envers les musulmans en Inde, telles que « Brûlons cette vermine » et « Le sang hindou coule, ces envahisseurs doivent être brûlés », ainsi que des propos suprémacistes hindous et de la désinformation sur les dirigeants politiques.

Une autre publicité approuvée appelait à l’exécution d’un chef de l’opposition qui, selon eux, voulait « effacer les hindous de l’Inde », à côté d’une photo d’un drapeau pakistanais.

Les publicités ont été créées et soumises à la bibliothèque de publicités de Meta – la base de données de toutes les publicités sur Facebook et Instagram – par India Civil Watch International (ICWI) et Ekō, une organisation de responsabilité d'entreprise, pour tester les mécanismes de Meta pour détecter et bloquer le contenu politique qui pourrait prouver incendiaire ou nuisible au cours des six semaines d'élections indiennes.

Selon le rapport, toutes les publicités « ont été créées sur la base de véritables discours de haine et de désinformation qui prévalent en Inde, soulignant la capacité des plateformes de médias sociaux à amplifier les récits préjudiciables existants ».

Les annonces ont été soumises à mi-chemin du vote, qui a débuté en avril et se poursuivra par étapes jusqu'au 1er juin. L’élection décidera si le Premier ministre Narendra Modi et son gouvernement du parti nationaliste hindou Bharatiya Janata (BJP) reviendront au pouvoir pour un troisième mandat.

Au cours de sa décennie au pouvoir, le gouvernement de Modi a mis en avant un programme hindou qui, selon les groupes de défense des droits de l'homme, les militants et les opposants, a conduit à une persécution et à une oppression accrues de la minorité musulmane de l'Inde.

Lors de cette élection, le BJP a été accusé d'avoir utilisé une rhétorique anti-musulmane et d'avoir attisé les craintes d'attaques contre les hindous, qui représentent 80 % de la population, pour recueillir des voix.

Lors d’un rassemblement au Rajasthan, Modi a qualifié les musulmans d’« infiltrés » qui « ont plus d’enfants », bien qu’il ait nié par la suite que cela s’adressait aux musulmans et ait déclaré qu’il avait « de nombreux amis musulmans ».

Le site de médias sociaux X a récemment reçu l'ordre de supprimer une vidéo de campagne du BJP accusée de diaboliser les musulmans.

Les chercheurs du rapport ont soumis 22 annonces en anglais, hindi, bengali, gujarati et kannada à Meta, dont 14 ont été approuvées. Trois autres ont été approuvés après de petites modifications qui n'ont pas modifié le message globalement provocateur. Après avoir été approuvés, ils ont été immédiatement supprimés par les chercheurs avant publication.

Les systèmes de Meta n'ont pas réussi à détecter que toutes les publicités approuvées comportaient des images manipulées par l'IA, malgré l'engagement public de l'entreprise selon lequel elle était « dédiée » à empêcher la diffusion de contenus générés ou manipulés par l'IA sur ses plateformes pendant les élections indiennes.

Cinq des publicités ont été rejetées pour avoir enfreint la politique des normes communautaires de Meta en matière de discours de haine et de violence, dont une contenant des informations erronées sur Modi. Mais les 14 qui ont été approuvées, qui ciblaient en grande partie les musulmans, « ont également enfreint les propres politiques de Meta en matière de discours de haine, d'intimidation et de harcèlement, de désinformation, de violence et d'incitation », selon le rapport.

Maen Hammad, militante à Ekō, a accusé Meta de profiter de la prolifération des discours de haine. « Les suprémacistes, les racistes et les autocrates savent qu’ils peuvent utiliser des publicités hyper-ciblées pour diffuser des discours de haine ignobles, partager des images de mosquées en feu et promouvoir de violentes théories du complot – et Meta prendra volontiers leur argent, sans poser de questions », a-t-il déclaré.

Meta n’a pas non plus reconnu que les 14 publicités approuvées étaient politiques ou liées aux élections, même si nombre d’entre elles visaient des partis politiques et des candidats opposés au BJP. Selon les politiques de Meta, les publicités politiques doivent passer par un processus d'autorisation spécifique avant d'être approuvées, mais seules trois des soumissions ont été rejetées sur cette base.

Cela signifiait que ces publicités pouvaient violer librement les règles électorales indiennes, qui stipulent que toute publicité et promotion politique est interdite dans les 48 heures précédant le début du scrutin et pendant le vote. Ces publicités ont toutes été mises en ligne pour coïncider avec deux phases du vote électoral.

En réponse, un porte-parole de Meta a déclaré que les personnes souhaitant diffuser des publicités sur les élections ou la politique « doivent passer par le processus d'autorisation requis sur nos plateformes et sont responsables du respect de toutes les lois applicables ».

La société a ajouté : « Lorsque nous trouvons du contenu, y compris des publicités, qui enfreint nos normes ou directives communautaires, nous le supprimons, quel que soit son mécanisme de création. Le contenu généré par l'IA peut également être examiné et évalué par notre réseau de vérificateurs de faits indépendants : une fois qu'un contenu est étiqueté comme « modifié », nous réduisons sa distribution. Nous exigeons également que les annonceurs du monde entier divulguent lorsqu’ils utilisent l’IA ou des méthodes numériques pour créer ou modifier une publicité à caractère politique ou social dans certains cas.

Un précédent rapport de l'ICWI et d'Ekō révélait que des « annonceurs fantômes » alignés sur les partis politiques, en particulier le BJP, avaient payé des sommes considérables pour diffuser des publicités politiques non autorisées sur des plateformes pendant les élections indiennes. Beaucoup de ces publicités réelles approuvaient les tropes islamophobes et les récits suprémacistes hindous. Meta a nié que la plupart de ces publicités violaient leurs politiques.

Meta a déjà été accusée de ne pas avoir réussi à arrêter la propagation de discours de haine islamophobes, d'appels à la violence et de théories du complot anti-musulmans sur ses plateformes en Inde. Dans certains cas, les publications ont donné lieu à des cas réels d'émeutes et de lynchages.

Nick Clegg, président des affaires mondiales de Meta, a récemment décrit les élections indiennes comme « un test énorme, énorme pour nous » et a déclaré que la société avait fait « des mois et des mois de préparation en Inde ».

Meta a déclaré qu'elle avait élargi son réseau de vérificateurs de faits locaux et tiers sur toutes les plateformes et qu'elle travaillait dans 20 langues indiennes.

Hammad a déclaré que les conclusions du rapport avaient révélé les insuffisances de ces mécanismes. « Cette élection a montré une fois de plus que Meta n'a pas de plan pour lutter contre le raz-de-marée de discours de haine et de désinformation sur sa plateforme lors de ces élections cruciales », a-t-il déclaré.

« Il ne peut même pas détecter une poignée d’images violentes générées par l’IA. Comment pouvons-nous leur faire confiance pour des dizaines d’autres élections dans le monde ?