Google zet AI in tegen trollen

De nieuwe machine learning-tool Perspective is ontwikkeld door Google in samenwerking met Jigsaw en getest op de site van de New York Times. Voorheen had deze krant een heel team in dienst om 11.000 reacties per dag te modereren.

Jared Cohen, de baas van Jigsaw, haalt onderzoek aan van het Data & Society Research Institute, waaruit blijkt dat 72 procent van de Amerikanen weleens een online belediging heeft gelezen. Bijna de helft is zelf weleens online beledigd. Een derde van de respondenten past zelfcensuur toe uit angst voor beledigende reacties. Veel consumenten verlaten online discussies zodra er nare reacties verschijnen.

En dat is weer nadelig voor de eigenaar van de website, die juist engagement zoekt rondom de online artikelen.

Tijd en geld
Daarnaast hebben contentproviders wel betere dingen te doen dan hun kostbare tijd en geld te verspillen aan beledigende reacties. Cohen: ‘Nieuwsorganisaties willen meer engagement en discussie rondom hun content, maar verliezen teveel tijd, geld en werk aan het opsporen van trollen. Veel sites stoppen dan ook maar met de mogelijkheid om te reageren.’

Artificial
Perspective werkt als volgt: de software beoordeelt reacties, vergelijkt ze met de inhoud van andere beledigende reacties en geeft vervolgens scores. Het artificial intelligence-onderdeel houdt in dat de tool steeds beter wordt naar aanleiding van nieuwe, vervelende reacties en de correcties van moderatoren, en zo steeds beter wordt in het opsporen van nieuwe reacties.

De tool is beschikbaar voor mediapartijen die samenwerken in Google’s Digital News Initiative, zoals de BBC, Financial Times en The Economist.

Google en Jigsaw hopen ook snel het aantal talen uit te breiden, en werken aan manieren om reacties te filteren die off-topic zijn.

Bronnen: Warc, Google blog

Beeld: 123RF