Twitch lance un nouvel outil basé sur le machine learning afin d’empêcher les utilisateurs bannis de se réinscrire sous un autre pseudo. La plateforme compte ainsi lutter contre le cyber harcèlement.
Agir contre le “trolling”
Les trolls sont nombreux sur les réseaux sociaux et nuisent aux créateurs de contenu. C’est pourquoi Twitch lance « Suspicious User Detection », un outil qui s’appuie sur l’apprentissage automatique permettant d’identifier les utilisateurs malintentionnés et suspectés d’être des récidivistes de cyber harcèlement. Ce dernier se base sur plusieurs éléments et indique aux créateurs de contenu les comptes qu’il considère suspects.
La plateforme laisse la décision entre les mains des influenceurs, jugés plus aptes. En effet, ces derniers connaissent leur communauté et sauront tranchés quant au sort des potentiels trolls.
Une protection entre les mains des créateurs
Deux niveaux de protection sont mis en place :
– Utilisateurs détectés comme probablement bannis : leurs messages ne peuvent pas s’afficher dans le Chat, mais restent visibles aux yeux des créateurs et modérateurs qui pourront surveiller l’utilisateur ou même lui interdire l’accès au canal de discussion.
– Utilisateurs détectés comme possiblement bannis : leurs messages s’affichent dans le chat mais leur compte est immédiatement signalé au créateur de contenu qui décidera à nouveau du type de restriction.
Cet outil est activé par défaut sur toutes les chaînes. Les créateurs peuvent néanmoins modifier leurs paramètres ou tout simplement désactiver ce dernier. Ils ont également la possibilité d’ajouter manuellement le nom d’un utilisateur qu’ils soupçonnent mal intentionné. Bien que le réseau social ait conscience que cette fonctionnalité n’est pas fiable à 100%, il espère tout de même ralentir le cyber harcèlement et limiter ses conséquences.