Des personnages presque identiques générés par l’IA sont apparus dans les coins de X et de Facebook à travers l’Europe, promouvant des messages anti-immigration et anti-gouvernementaux.
Des versions du même personnage ont été partagées en ligne, comme « Emma » néerlandophone, « Maria » allemande et « Amelia » irlandaise.
Chaque personnage a ses propres symboles nationaux et références politiques. En Allemagne, Maria porte un dirndl bavarois traditionnel et exprime son amour pour une « bière fraîche dans le pub de notre village ». Elle affirme que son gouvernement ne la protège plus et appelle à des « braves chevaliers » pour défendre son pays contre les immigrants musulmans.
Aux Pays-Bas, une création artificielle d’Emma insiste sur le fait que Noël doit être célébré « de manière traditionnelle ».
En Irlande, une version rousse du personnage qualifie le taoiseach du pays, Micheál Martin, de « porte-parole de Bruxelles ». Bruxelles, insiste-t-il, oblige l’Irlande à avoir des « frontières ouvertes », même si l’Irlande ne fait pas partie de l’espace Schengen.
Individuellement, ces vidéos ont attiré des milliers de vues et d’interactions, notamment sur X.
Ces imitateurs remontent à la version la plus connue apparue pour la première fois au Royaume-Uni. Ici, Amelia, une écolière aux cheveux violets générée par l’IA, est devenue virale, avec son premier message viral accumulant plus de 1,4 million de vues.
Les versions du personnage ont explosé sur Facebook, Instagram,
Les origines improbables d’Amelia
L’organisation qui a créé le personnage sur lequel sont basés les mèmes viraux affirme qu’une grande partie du récit en ligne entourant Amelia est trompeur.
Une première version d’Amelia est apparue dans Pathways, un jeu éducatif développé par l’entreprise sociale britannique Shout Out UK en partenariat avec les autorités locales de Hull et de l’East Riding of Yorkshire. Le projet a été financé par le ministère de l’Intérieur du Royaume-Uni dans le cadre d’un programme de prévention de la lutte contre l’extrémisme.
Le jeu demande aux élèves de choisir un personnage qui est ensuite placé dans divers scénarios en ligne, où il leur est demandé de choisir comment répondre aux publications, aux messages et à diverses formes de pression des pairs.
Matteo Bergamini, directeur général de Shout Out UK, a déclaré à l’équipe de vérification des faits d’Euronews The Cube que le jeu avait été développé en 2023, lorsque les autorités locales de Hull et du Yorkshire ont découvert que la radicalisation en ligne était plus risquée, en particulier pour les enfants âgés de 13 à 18 ans.
“La menace provenait principalement de l’écosystème émergent d’extrême droite en ligne”, a déclaré Bergamini, ajoutant que le jeu lui-même était ciblé et limité à ces zones du Royaume-Uni.
Le jeu n’était pas destiné à être joué de manière isolée et faisait partie d’un programme d’apprentissage plus large conçu pour permettre aux enseignants de faciliter des discussions nuancées sur les comportements dangereux par rapport aux comportements sûrs, a-t-il ajouté.
Amelia dans le jeu n’est ni une protagoniste ni un modèle, mais plutôt un personnage secondaire qui encourage le personnage principal à adopter des comportements à risque en ligne.
De plus, contrairement aux affirmations en ligne, le jeu ne suggère pas qu’un enseignant oriente un enfant vers Prevent, un programme du gouvernement britannique, pour lutter contre la migration massive.
Il semble que le mème d’Amelia soit apparu dans les cercles d’extrême droite en réaction à ce qu’ils considéraient comme une caricature critiquant leurs opinions anti-immigration et « État nounou ».
Le Cube a contacté certains créateurs du mème, qui n’ont pas répondu à temps pour la publication.
Versions extrêmes et monétisation.
La plupart des mèmes Amelia, en particulier sur les plateformes grand public comme X, sont relativement inoffensifs. Ils ne nécessiteraient pas de suppression en vertu des règles du Digital Services Act (DSA).
Le DSA exige que les plateformes suppriment les contenus illégaux tels que les discours de haine, le terrorisme et l’exploitation sexuelle des enfants, ainsi que certains types spécifiques de publicités préjudiciables.
Mais les chercheurs qui ont suivi l’ascension rapide d’Amelia affirment que des versions extrêmes du personnage existent dans des communautés de niche en ligne et sur des applications comme Telegram.
Siddharth Venkataramakrishnan, analyste à l’Institute for Strategic Dialogue (ISD) basé à Londres, a déclaré que le mème a été adopté par un large éventail de communautés en ligne, depuis ceux qui l’utilisent ironiquement jusqu’à certains des plus grands comptes anti-immigrés.
Bien que toutes les versions du personnage ne contiennent pas de discours de haine, certaines versions utilisent des images déshumanisantes et violentes destinées à des communautés spécifiques.
Shout Out UK affirme que son personnage a été « mémifié et sexualisé » en ligne par des acteurs de droite, beaucoup l’attribuant à un langage raciste et antisémite, à des tropes nazis et d’extrême droite.
Selon l’organisation, la campagne a dépassé le cadre d’Internet et a donné lieu à l’envoi de menaces et de messages malveillants à son personnel.
Amelia est également devenue un véhicule de monétisation. L’ISD a identifié des comptes faisant la promotion de pièces de monnaie sur le thème d’Amelia, une tendance courante dans les mouvements viraux sur les réseaux sociaux.
Dans cet esprit, dit Venkataramakrishnan, il est difficile de savoir quels comptes publient des mèmes d’Amelia à des fins politiques et lesquels la poussent à s’engager dans un but lucratif.
“Où franchir la frontière entre soutenir quelque chose pour des raisons idéologiques et le soutenir parce que vous voulez gagner de l’argent ?” dit.
Les mèmes chargés d’émotion sont également plus susceptibles de gagner du terrain sur les réseaux sociaux une fois que l’engagement commence à se développer, a expliqué Venkataramakrishnan, un effet qui aurait poussé les mèmes d’Amelia à se propager rapidement.
