Twitch lance un outil de modération alimenté par l’intelligence artificielle

AutoMod exploite l’apprentissage automatique et le traitement du langage naturel afin d’identifier et empêcher la propagation de contenu inapproprié dans le clavardage d’une diffusion Twitch.

C’est un secret de polichinelle : les conversations sur Twitch peuvent souvent dégénérer, en particulier lorsque la chaîne qui diffuse est gérée par une femme. Afin de pallier la situation, Twitch a dévoilé aujourd’hui un nouvel outil de modération destinée à créer une «expérience de clavardage positive et inclusive».

Concrètement, le nouvel outil exploite une combinaison d’apprentissage automatique et de traitement du langage naturel pour restreindre le contenu inapproprié. Les messages suspects sont ainsi automatiquement filtrés et retenus à l’abri de la conversation, permettant ainsi à un modérateur de les approuver a posteriori.

Pour la toute première fois, nous donnons à tous nos créateurs la possibilité d’établir une base de référence fiable pour un langage acceptable et une modération du clavardage en tout temps.»

«Ce qui fait de Twitch un chef de file en matière de modération, au-delà de notre équipe toujours vigilante d’administrateurs modérateurs, est que nous équipons les diffuseurs d’un ensemble d’outils robustes leur permettant de nommer des modérateurs en qui ils ont confiance directement depuis leurs communautés dans le but de protéger l’intégrité de leurs chaînes», explique Ryan Kennedy, directeur de la modération de Twitch. «Cela permet aux créateurs de se concentrer davantage sur la production de contenu de qualité et à la gestion de leurs communautés.»

«En combinant la puissance des êtres humains et l’apprentissage automatique, AutoMod fait un pas de plus. Pour la toute première fois, nous donnons à tous nos créateurs la possibilité d’établir une base de référence fiable pour un langage acceptable et une modération du clavardage en tout temps.»

AutoMod utilisera ainsi des algorithmes spéciaux permettant de mieux comprendre l’intention d’un message pour mettre un frein aux propos haineux ou inapproprié, plutôt que de simplement censurer les messages contenant un mot inscrit sur une liste noire. La technologie derrière ce nouvel outil est en quelque sorte similaire à ce qu’exploite déjà Apple avec Siri, Google, mais certainement Amazon avec Alexa, l’assistant personnel intelligent intégré à la gamme Echo. Rappelons que Twitch est une filiale d’Amazon.

Sans surprise, AutoMod est d’abord offert en anglais. Des versions bêta de l’outil fonctionnent toutefois en allemand, arabe, coréen, espagnol, français, italien, japonais, polonais, russe, tchèque, et turc.

À noter que la nouvelle fonction doit être activée depuis les paramètres d’une chaîne Twitch. Par conséquent, AutoMod ne sera pas en fonction sur toutes les diffusions. Qui plus est, les responsables d’une diffusion pourront paramétrer l’outil selon leurs préférences personnelles. Apprentissage automatique oblige, AutoMod pourra en apprendre davantage sur ces préférences au fur et à mesure qu’il sera utilisé. Par exemple, si vous donnez le feu vert à un type de commentaire qu’il croyait offensant, après quelques reprises, il comprendra mieux votre limite face aux commentaires partageant les mêmes caractéristiques.

Twitch souligne également que cette annonce contribue à son initiative de devenir un service plus inclusif.

«L’inclusion est quelque chose qui est important pour notre communauté et notre marque», a déclaré Anna Prosser Robinson, responsable de la programmation et du groupe d’inclusion de Twitch. «L’un des meilleurs moyens de contribuer au changement est de fournir des outils et de l’éducation qui permettent à tous les types de voix d’êtres entendus. AutoMod est l’un de ces outils et nous espérons qu’il encouragera nos utilisateurs à se joindre à nous dans notre objectif continu de favoriser un environnement positif sur les médias sociaux.»

À ce sujet, l’entreprise souligne que son groupe d’inclusion a organisé plusieurs événements visant à attirer plus de femmes dans le domaine de l’ingénierie, et que d’autres initiatives sont en chantier. Twitch a également tenu, lors du TwitchCon 2016, des panels consacrés aux membres de la communauté LGBT, de divers groupes ethniques, et aux femmes travaillant au sein de l’industrie du jeu vidéo.