Image default
Economie

Bodyguard, une appli pour aider à se protéger du cyberharcèlement


Marlène Schiappa, la ministre déléguée à la Citoyenneté vient de l’installer sur son smartphone pour bloquer tous les commentaires haineux et insultants qu’elle reçoit sur Twitter. Comme elle et d’autres personnalités publiques, plus de 50.000 personnes utilisent Bodyguard, une application créée en 2017 par un Français, Charles Cohen, qui s’est donné pour mission de «protéger un maximum d’utilisateurs contre le fléau grandissant du cyberharcèlement». Son principe ? Détecter en temps réel sur Twitter, YouTube, Instagram ou Twitch des commentaires haineux, des insultes et les modérer automatiquement pour les utilisateurs.

À la différence des technologies de modération des grandes plateformes basées sur le «machine» et le «deep» learning, la solution développée par Bodyguard se base sur de l’analyse contextuelle, lui permettant d’assurer une protection quasi «personnalisée». Concrètement, les commentaires reçus sont traités, corrigés de leurs fautes de frappe, d’orthographes ou d’émojis, analysés pour repérer des groupes de mots et comprendre à l’intérieur d’une phrase à qui ils s’adressent.

«Nous sommes capables de différencier une insulte adressée spécifiquement à un utilisateur d’un mot insultant qui serait inclus dans une phrase plus générale» explique Charles Cohen. C’est donc l’utilisateur qui paramètre en amont le niveau de modération souhaité sur des catégories définies (insulte, attaque physique, menaces, moqueries, homophobie, harcèlement sexuel, misogynie…) et qui choisit ce qu’il en fait (suppression, blocage de l’auteur, etc…). Bodyguard revendique un taux de détection de 90% des contenus harcelants pour 2% d’erreurs.

Un fléau amplifié par les confinements

Pendant le premier confinement, l’application a observé une augmentation de 56% de tweets haineux sur la plateforme américaine. Et depuis le nouveau confinement, la hausse est de 32%. «Le nombre de tweets haineux est passé de 2% à 3-4% du nombre de tweets. Or les interactions ont été beaucoup plus nombreuses, donc le nombre total de tweets haineux a beaucoup augmenté» explique Charles Cohen.

Un phénomène que confirme l’association e-enfance. «Notre numéro vert national Net Ecoute (0800 200 000) a enregistré une hausse de 30% des sollicitations pendant le (premier) confinement, essentiellement due aux adolescents livrés à eux-mêmes sur les réseaux sociaux» explique Justine Atlan, directrice générale de l’association de protection de l’enfance sur Internet. Les signalements envoyés aux services de modération des grandes plateformes avaient été deux fois plus nombreux.

Septembre a confirmé la tendance avec une hausse de 26% des cas de cyberharcèlement rapporté à Net Ecoute par rapport à septembre 2019. Et le nouveau confinement n’arrange rien. «Il est important de bien distinguer cyberharcèlement qui vise une personne en particulier et haine en ligne qui vise un groupe de personnes. Ce n’est pas plus ou moins grave mais si on les confond, on les combat mal.» ajoute-t-elle, rappelant que des enfants harcelés peuvent être traumatisés à vie dans leurs relations aux autres.

Allier humain, technologie et législation

«Pour combattre efficacement le cyberharcèlement, il faut allier l’humain à la technologie et à la loi» insiste Charles Cohen. Le gouvernement devrait intégrer au projet de loi contre les séparatismes, qui sera présenté en décembre, des mesures pour améliorer la lutte contre les discours de haine et les contenus illicites sur Internet, sur lesquels travaille la députée LREM Laetitia Avia.

«Nous allons revenir sur l’obligation de moyens, voir comment obliger les plateformes à investir davantage dans leur modération, en technologie et en humains» précise Mounir Mahjoubi, député LREM et ancien Secrétaire d’État au Numérique, qui utilise aussi l’application Bodyguard. Le projet de loi pourrait aussi simplifier le dépôt de plainte et créer, au niveau judiciaire, un Parquet national numérique, qui aura des interlocuteurs directs chez les plateformes.

En attendant, Bodyguard continue à étoffer ses fonctionnalités et devrait s’étendre bientôt au-delà de la France. À l’heure actuelle, Facebook, TikTok ou Snapchat n’autorisent pas l’application à modérer l’espace commentaire de leurs utilisateurs. Un point que Charles Cohen espère voir prochainement évoluer.



Source link

Autres articles

une conférence européenne sur la souveraineté alimentaire prévue «à la rentrée»

administrateur

La dégringolade des prix immobiliers à New York est-elle réelle?

administrateur

Les réseaux sociaux durcissent la modération des contenus pro-hydroxychloroquine

administrateur

Le télétravail continue pendant les vacances

administrateur

c’est quoi un trouble anormal de voisinage ?

administrateur

2020, année perdue pour l’automobile

administrateur