Un réseau à grande échelle d’un peu moins de 25 000 personnes diffuse du matériel sexuel non consensuel et de la pédopornographie à travers l’Espagne et l’Italie via le service de messagerie instantanée Telegram, selon un nouveau rapport.
PUBLICITÉ
PUBLICITÉ
AI Forensics, un institut européen à but non lucratif qui étudie les algorithmes, trouvé un « écosystème d’abus à grande échelle » après avoir examiné 2,8 millions de messages Telegram répartis en 16 groupes sur six semaines.
Selon leur rapport, la majorité des utilisateurs qui partagent du contenu sexuel non consensuel sont de jeunes hommes hétérosexuels qui partagent du contenu de femmes qui sont leurs partenaires, ex-partenaires ou connaissances. Le contenu le plus extrême montre des enfants dans des scénarios d’inceste et de viol.
Le rapport intervient après que les membres du Parlement européen approuvé le mois dernier, une interdiction des systèmes d’intelligence artificielle (IA) qui « dépouillent » les images (ou créent de fausses images de nu) en retirant les vêtements d’un sujet sans son consentement.
Une femme sur trois dans l’Union européenne a expérimenté les violences sexuelles à partir de 15 ans, qui incluent la cyber-violence, selon l’Institut européen pour l’égalité des genres.
Quels contenus sont diffusés ?
L’étude a révélé que les jeunes obtiennent souvent du matériel original lors d’échanges privés sur l’application de médias sociaux Instagram et l’application de messagerie privée WhatsApp.
Les auteurs monétisent les vidéos en facturant des frais uniques pouvant aller jusqu’à 50 euros pour un accès complet aux chaînes et aux fichiers de ce contenu. Dans certains cas, ils facturent également un abonnement mensuel de 5 €.
Les robots naturistes sont souvent annoncés sur ces chaînes comme des outils permettant de générer davantage de contenu non consensuel.
“Cela a permis aux auteurs de crimes d’augmenter le volume, la rapidité et la facilité avec lesquels ils [this content] est perpétré”, selon un communiqué de presse d’AI Forensics.
L’étude a révélé que les femmes présentées dans les vidéos sont souvent nommées, étiquetées et peuvent être localisées via des liens de profil partagés sur les chaînes Telegram.
Ce contenu est ensuite redistribué sur d’autres plateformes, comme TikTok et Instagram. Reddit est utilisé comme une « passerelle de recrutement » qui diffuse des liens vers les chaînes Telegram originales où les gens peuvent trouver du contenu payant.
Le contenu a atteint environ 52 000 personnes : 27 000 personnes en Italie et 25 000 autres en Espagne, a découvert AI Forensics.
L’ONG a déclaré que cela suggère que la manière dont les contenus sexuels non consensuels sont diffusés sur les réseaux sociaux n’est pas limitée par les frontières nationales ou les limites des plateformes et constitue un « problème structurel de portée européenne qui exige une réponse européenne ».
La modération des télégrammes est “insuffisante”, selon un rapport
Telegram aurait fermé certains des groupes observés par AI Forensics, mais ceux-ci ont été recréés sous les mêmes noms “quelques heures plus tard”. L’organisation européenne a déclaré que cela signifie que les pratiques de modération de Telegram sont « insuffisantes ».
Il a recommandé que la modération sur Telegram inclue des mécanismes de signalement et applique les politiques de la plateforme, en particulier le modèle d’abonnement Premium, car cela donne aux créateurs un moyen de monétiser ce contenu.
L’organisation à but non lucratif a déclaré que la Commission européenne devrait également désigner Telegram comme une très grande plateforme en ligne (VLOP) en vertu de la loi sur les services numériques (DSA), le cadre juridique de l’UE pour la responsabilité des plateformes en ligne, la modération du contenu et la sécurité des utilisateurs.
Cette désignation signifierait que la plateforme serait soumise à des obligations plus strictes, comme être transparente sur le fonctionnement de son algorithme et mener des évaluations des risques liés aux contenus préjudiciables.
En février, la plateforme récupéré qui comptait “nettement moins” de 45 millions d’utilisateurs, ce qui est la limite de l’UE pour être étiqueté comme VLOP.
AI Forensics souhaite également que la loi européenne sur l’IA comprenne des dispositions facilitant la suppression des abus sexuels sur enfants et des images non consensuelles des plateformes.
Dans une déclaration à Euronews Next, Telegram a déclaré que “le fait que ces groupes doivent s’appuyer sur d’autres plateformes pour se développer montre que notre manque d’algorithmes de promotion de contenu et de fonctions de recherche modérées de manière proactive ne leur permet pas de se propager sur notre plateforme”.
Les contenus pédopornographiques et les contenus non consensuels sont limité sur Telegram, selon les conditions de service de la plateforme. Une modération de contenu basée sur l’IA, ainsi que du personnel, sont en place pour lutter contre les abus. Les utilisateurs peuvent également signaler tout contenu qui enfreint les termes et conditions de la plateforme.
Telegram peut suspendre temporairement ou définitivement certaines fonctionnalités du compte de quelqu’un, comme la communication avec des personnes avec lesquelles vous n’êtes pas connecté.
En cas de « violations graves », la plateforme pourrait bloquer ou supprimer des utilisateurs, des robots, des publications, des chaînes et des groupes.
La plate-forme a déclaré qu’elle ne profitait pas du contenu activement supprimé via les fonctionnalités Premium. Celles-ci sont “totalement facultatives et n’offrent aucun avantage spécifique aux utilisateurs tentant d’abuser de la plateforme”.
Telegram a déclaré que ses systèmes de modération sont « plus efficaces » pour empêcher la diffusion massive de contenus nuisibles que d’autres grandes plateformes de médias sociaux désignées comme VLOP en vertu de la DSA.
Cet article a été mis à jour le 9 avril 2026 avec un commentaire de Telegram.
