Les changements internes chez Meta et les progrès rapides des outils d’IA ont entraîné une explosion des contenus à sensation ciblant le Royaume-Uni
Il suffit de parcourir n’importe quel fil d’actualité Facebook en Grande-Bretagne pour, entre les annonces de naissance et les querelles de voisinage insignifiantes, tomber sur un compte dont la photo de profil est un Union Jack et dont le nom est vague et générique, comme « Britain Today ».
Ces comptes – et il y en a des centaines, voire des milliers – se présentent comme l’œuvre de patriotes britanniques. Dans une vidéo typique générée par l’IA, un homme d’âge mûr affirme que son café de quartier « a cessé de servir du porc, du bacon et des saucisses juste pour ne pas offenser les gens ». (...)
Parallèlement à ce genre de nostalgie réactionnaire, il n’est pas rare de voir des mèmes qualifiant l’islam de « cancer », dénonçant la prière des musulmans en public comme une « invasion de l’Occident » ou relayant la « théorie du grand remplacement » (selon laquelle les populations blanches seraient délibérément remplacées par des immigrants non blancs). (...)
Ils tirent leurs revenus des publicités en ligne que Meta diffuse à côté des contenus les plus performants. Meta partage une partie des recettes publicitaires avec les créateurs et leur verse également des paiements directs pour récompenser les publications qui suscitent beaucoup d’engagement.
Une fois que vous avez perfectionné votre technique pour provoquer la colère des internautes grâce aux algorithmes, il y a beaucoup d’argent à gagner avec ce genre de contenu de mauvaise qualité. (...)
La propagande d’extrême droite et l’islamophobie ne sont, bien sûr, pas un phénomène nouveau. Mais deux facteurs structurels clés les ont rendues particulièrement omniprésentes sur les réseaux sociaux.
Tout d’abord, la large disponibilité des outils d’IA générative. Dans une vidéo que nous avons visionnée, issue du cours Facebook de Sooriyapura, celui-ci expliquait à ses élèves que les vidéos générées par l’IA pouvaient contribuer à rendre un contenu politique viral jusqu’à dix fois plus rapidement. (...)
Le deuxième facteur est le désengagement de Meta en matière de modération des contenus. Au cours des deux dernières années, les principales plateformes sociales ont procédé à des licenciements massifs au sein des équipes chargées de la confiance et de la sécurité qui surveillaient et supprimaient les contenus préjudiciables. (...)