Propagande sur Telegram : un premier outil de détection
Une nouvelle méthode mise au point par des chercheurs de l'EPFL en collaboration avec leurs homologues allemands pourrait aider les modérateurs à lutter contre la désinformation sur Telegram.
La désinformation circule sur les réseaux sociaux ainsi que sur WhatsApp, Telegram et Signal, mais ces services ont été peu étudiés scientifiquement. Des chercheurs de l'EPFL et de l'Institut Max Planck pour la sécurité et la protection des données, en collaboration avec des collègues de l'Université de la Ruhr à Bochum, ont désormais développé une nouvelle méthode pour détecter les comptes qui diffusent systématiquement de la propagande sur les canaux Telegram.
Dans certains pays, comme la Russie et l'Ukraine, Telegram est l'une des principales plateformes d'information. Leur modération des contenus incombe à ceux qui gèrent un groupe ou une chaîne. Il n'existe aucune instance indépendante chargée de vérifier les faits. Les modérateurs peuvent établir leurs propres règles dans leurs groupes et chaînes et suppriment souvent manuellement les contenus indésirables. Certains utilisateurs utilisent également des logiciels à cette fin, mais ces outils sont généralement basés sur des principes très simples, tels que la détection de langage obscène.
Identification des réseaux de propagande russes et ukrainiens
Les chercheurs ont analysé 13,7 millions de commentaires provenant de 13 chaînes Telegram traitant de politique ou d'actualité. 1,8% d'entre eux se sont avérés être de la propagande. La plupart ont été diffusés par un réseau pro-russe qui, dans certaines chaînes, avait publié jusqu'à 5% de tous les messages. Les chercheurs ont également découvert un réseau de propagande pro-ukrainien plus petit.
Leur mécanisme de détection repose sur les réponses que les comptes de propagande donnent aux comptes des utilisateurs normaux. Comme l'ont montré les chercheurs, les comptes de propagande sur Telegram n'initient pas de conversations, mais répondent aux commentaires d'autres utilisateurs qui contiennent certains mots clés, tels que Poutine ou Zelensky.
Selon Carmela Troncoso, professeure à l'EPFL, les comptes de propagande publient souvent les mêmes messages sur plusieurs canaux, formant ainsi de grands réseaux qui répètent un contenu identique, contrairement aux comptes ordinaires qui créent des messages uniques.
Les chercheurs ont utilisé cette caractéristique pour programmer un mécanisme de repérage automatique. Celui-ci était capable de détecter la propagande à partir d'un seul commentaire avec un taux de réussite de 97,6%.
Modération humaine avec des résultats mitigés
Dans le cadre de leur étude, le groupe a également examiné l'efficacité des modérateurs dans la lutte contre la propagande. Les résultats variaient considérablement d'une chaîne à l'autre. Alors que certaines chaînes d'information ont réussi à identifier et à supprimer près de 95% de l’endoctrinement, ce taux était d'à peine 20 % pour d'autres chaînes. Selon les opérateurs des chaînes, la suppression ce matraquage nécessite un travail manuel important. Le nouvel outil de détection pourrait réduire considérablement le temps et les efforts nécessaires.
« Les modérateurs de contenu ne sont pas disponibles 24 heures sur 24, et être constamment exposé à la propagande peut également nuire à la santé mentale des gens. C'est pourquoi nous espérons que notre algorithme aidera à l'avenir à modérer Telegram », ambitionne Klim Kireev, doctorant à l'EPFL et premier auteur de l'étude.
Contribution de: Tanya Petersen, EPFL
Source d'image: Istockphoto