All time Nerds BetterBe Carrières

Twitch lance un outil de modération alimenté par l’intelligence artificielle

Par Laurent LaSalle – le dans Actualités
AutoMod exploite l'apprentissage automatique et le traitement du langage naturel afin d'identifier et empêcher la propagation de contenu inapproprié dans le clavardage d'une diffusion Twitch.

C’est un secret de polichinelle : les conversations sur Twitch peuvent souvent dégénérer, en particulier lorsque la chaîne qui diffuse est gérée par une femme. Afin de pallier la situation, Twitch a dévoilé aujourd’hui un nouvel outil de modération destinée à créer une «expérience de clavardage positive et inclusive».

Concrètement, le nouvel outil exploite une combinaison d’apprentissage automatique et de traitement du langage naturel pour restreindre le contenu inapproprié. Les messages suspects sont ainsi automatiquement filtrés et retenus à l’abri de la conversation, permettant ainsi à un modérateur de les approuver a posteriori.

Pour la toute première fois, nous donnons à tous nos créateurs la possibilité d’établir une base de référence fiable pour un langage acceptable et une modération du clavardage en tout temps.»

«Ce qui fait de Twitch un chef de file en matière de modération, au-delà de notre équipe toujours vigilante d’administrateurs modérateurs, est que nous équipons les diffuseurs d’un ensemble d’outils robustes leur permettant de nommer des modérateurs en qui ils ont confiance directement depuis leurs communautés dans le but de protéger l’intégrité de leurs chaînes», explique Ryan Kennedy, directeur de la modération de Twitch. «Cela permet aux créateurs de se concentrer davantage sur la production de contenu de qualité et à la gestion de leurs communautés.»

«En combinant la puissance des êtres humains et l’apprentissage automatique, AutoMod fait un pas de plus. Pour la toute première fois, nous donnons à tous nos créateurs la possibilité d’établir une base de référence fiable pour un langage acceptable et une modération du clavardage en tout temps.»

AutoMod utilisera ainsi des algorithmes spéciaux permettant de mieux comprendre l’intention d’un message pour mettre un frein aux propos haineux ou inapproprié, plutôt que de simplement censurer les messages contenant un mot inscrit sur une liste noire. La technologie derrière ce nouvel outil est en quelque sorte similaire à ce qu’exploite déjà Apple avec Siri, Google, mais certainement Amazon avec Alexa, l’assistant personnel intelligent intégré à la gamme Echo. Rappelons que Twitch est une filiale d’Amazon.

Sans surprise, AutoMod est d’abord offert en anglais. Des versions bêta de l’outil fonctionnent toutefois en allemand, arabe, coréen, espagnol, français, italien, japonais, polonais, russe, tchèque, et turc.

À noter que la nouvelle fonction doit être activée depuis les paramètres d’une chaîne Twitch. Par conséquent, AutoMod ne sera pas en fonction sur toutes les diffusions. Qui plus est, les responsables d’une diffusion pourront paramétrer l’outil selon leurs préférences personnelles. Apprentissage automatique oblige, AutoMod pourra en apprendre davantage sur ces préférences au fur et à mesure qu’il sera utilisé. Par exemple, si vous donnez le feu vert à un type de commentaire qu’il croyait offensant, après quelques reprises, il comprendra mieux votre limite face aux commentaires partageant les mêmes caractéristiques.

Twitch souligne également que cette annonce contribue à son initiative de devenir un service plus inclusif.

«L’inclusion est quelque chose qui est important pour notre communauté et notre marque», a déclaré Anna Prosser Robinson, responsable de la programmation et du groupe d’inclusion de Twitch. «L’un des meilleurs moyens de contribuer au changement est de fournir des outils et de l’éducation qui permettent à tous les types de voix d’êtres entendus. AutoMod est l’un de ces outils et nous espérons qu’il encouragera nos utilisateurs à se joindre à nous dans notre objectif continu de favoriser un environnement positif sur les médias sociaux.»

À ce sujet, l’entreprise souligne que son groupe d’inclusion a organisé plusieurs événements visant à attirer plus de femmes dans le domaine de l’ingénierie, et que d’autres initiatives sont en chantier. Twitch a également tenu, lors du TwitchCon 2016, des panels consacrés aux membres de la communauté LGBT, de divers groupes ethniques, et aux femmes travaillant au sein de l’industrie du jeu vidéo.

Continuez votre lecture

L’ampleur du sexisme sur Twitch démontrée par une nouvelle étude

L’ampleur du sexisme sur Twitch démontrée par une nouvelle étude

Laurent LaSalle -
Twitch prépare le lancement de son application dédiée pour PC

Twitch prépare le lancement de son application dédiée pour PC

Laurent LaSalle -
Avec Pulse, Twitch devient un réseau social

Avec Pulse, Twitch devient un réseau social

Laurent LaSalle -
Google injecte 4,5 millions dans la recherche sur l’intelligence artificielle à Montréal

Google injecte 4,5 millions dans la recherche sur l’intelligence artificielle à Montréal

Laurent LaSalle -
Amazon fait l’acquisition de Twitch (c’est confirmé)

Amazon fait l’acquisition de Twitch (c’est confirmé)

Laurent LaSalle -
Druide injecte un million dans la recherche sur l’intelligence artificielle

Druide injecte un million dans la recherche sur l’intelligence artificielle

Laurent LaSalle -
Facebook augmente ses effectifs pour retirer les meurtres en vidéo de sa plateforme

Facebook augmente ses effectifs pour retirer les meurtres en vidéo de sa plateforme

La fonction Cheering de Twitch a recueilli près de 6 millions en 2016

La fonction Cheering de Twitch a recueilli près de 6 millions en 2016

Laurent LaSalle -
Facebook exploitera l’intelligence artificielle pour prévenir les suicides

Facebook exploitera l’intelligence artificielle pour prévenir les suicides

Laurent LaSalle -
Sprinkles, le Snapchat de Microsoft propulsé par l’intelligence artificielle

Sprinkles, le Snapchat de Microsoft propulsé par l’intelligence artificielle

Laurent LaSalle -
L’auto-harcèlement virtuel : bourreau et victime à la fois

L’auto-harcèlement virtuel : bourreau et victime à la fois

Google exploite l’intelligence artificielle pour combattre les trolls

Google exploite l’intelligence artificielle pour combattre les trolls

Laurent LaSalle -
Justin.tv ferme son service pour se concentrer sur Twitch

Justin.tv ferme son service pour se concentrer sur Twitch

Laurent LaSalle -
BabyX, une intelligence artificielle dotée de facultés cognitives

BabyX, une intelligence artificielle dotée de facultés cognitives

Tristan Geoffroy -
La cupidité a failli avoir raison de Steam

La cupidité a failli avoir raison de Steam

Hugo Prévost -

Laurent LaSalle

Depuis qu'il a tapoté sur son Commodore Vic-20 à l'âge de 3 ans, Laurent est (un peu trop) obsédé par la technologie. Passionné d'informatique et de jeux vidéo, il a notamment été blogueur pour Radio-Canada et chroniqueur techno pour MusiquePlus .