La croissance des réseaux sociaux a des effets profonds sur la société moderne, avec des conséquences parfois négatives. Parmi les préoccupations majeures, on observe une augmentation des comportements malveillants en ligne, comme la désinformation et la haine. Pour contrer ce phénomène, des chercheurs européens ont développé un nouvel algorithme d’apprentissage automatique qui prédit les activités malveillantes sur des plateformes telles que X (anciennement Twitter).

Une étude révélatrice

Publiée le 12 juillet dans les Transactions IEEE sur les systèmes sociaux computationnels, l’étude des chercheurs a abouti à des résultats impressionnants. Leur modèle a été testé sur trois ensembles de données réelles qui démontraient des comportements malveillants en Chine, en Iran et en Russie. Ce modèle a surpassé de 40 % un modèle de prédiction de pointe conventionnel.

Impact des comportements malveillants

Les conséquences des comportements malveillants sur les réseaux sociaux sont significatives. Ils encouragent la dissimulation de la vérité, la discorde et la propagation de la haine. Rubén Sánchez-Corcuera, professeur d’ingénierie à l’Université de Deusto en Espagne, souligne l’impératif de créer des réseaux qui permettent aux utilisateurs de communiquer en toute sécurité. Selon lui :

« En réduisant la haine et l’incitation à la haine, nous pouvons potentiellement diminuer la polarisation et la violence dans la société. »

Développement du modèle de prédiction

Poussé par cette nécessité, Rubén et son équipe ont conçu un modèle capable de prédire les comportements malveillants. Ils ont adapté un modèle existant, le Jointly Optimizing Dynamics and Interactions for Embeddings (JODIE), qui anticipe les interactions futures sur les réseaux sociaux. Ce modèle emploie des algorithmes d’apprentissage automatique supplémentaires pour évaluer la probabilité qu’un utilisateur adopte un comportement malveillant dans le temps.

Pour ce faire, les chercheurs ont appliqué un réseau neuronal récurrent tenant compte des interactions passées et du temps écoulé entre ces interactions. Cette approche innovante utilise des fonctionnalités sensibles au temps, rendant le modèle adapté à des environnements où les comportements des utilisateurs évoluent rapidement.

Données et performances du modèle

Les chercheurs ont testé leur modèle sur trois ensembles de données, incluant des millions de tweets. Les exemples analysés étaient les suivants :

• 936 comptes liés à des manifestations politiques à Hong Kong en 2019.
• 1 666 comptes soutenant le gouvernement iranien avec des tweets biaisés pour promouvoir ses perspectives diplomatiques en 2019.
• 1 152 comptes associés à un site de propagande politique en Russie en 2020.

Les résultats montrent une précision remarquablement élevée : le modèle a pu identifier 75 % des utilisateurs malveillants en ne se basant que sur 40 % des interactions dans les données iraniennes. Il a aussi surpassé un modèle concurrent de 40 % en termes d’efficacité.

Vers un avenir plus sûr sur les réseaux sociaux

Cependant, une observation intéressante est que le modèle a été moins efficace pour identifier les utilisateurs malveillants dans l’ensemble de données russe, sans que les raisons ne soient entièrement comprises. Rubén Sánchez-Corcuera reste optimiste quant aux applications futures de leur recherche.

Il précise que leur approche pourrait s’étendre à d’autres types de réseaux, en particulier ceux qui intègrent du texte et des commentaires, tels que X, mais qu’il pourrait nécessiter des adaptations pour des réseaux multimédia comme TikTok ou Instagram.

En conclusion, développer un modèle capable de prédire les comportements malveillants agirait comme une mesure préventive, protégeant ainsi les utilisateurs et contribuant à un environnement en ligne plus sûr et plus constructif. La vision de Rubén Sánchez-Corcuera est claire :

« Un modèle efficace pourrait transformer la manière dont nous interagissons sur les réseaux sociaux tout en améliorant le bien-être général des utilisateurs. »

Article proposé par:

Franck Ribiere

Basé en France entre Aix-en-Provence et Marseille, Franck est un informaticien passionné par l'intelligence artificielle, avec une expertise en développement logiciel web. Toujours à l'affût des dernières avancées, il s'efforce de proposer les infos les + pertinentes.