Internet-Foren : Woran erkennt man einen Troll?

US-Forscher wollen mithilfe eines Algorithmus asoziales Verhalten bei Internet-Diskussionen identifizieren - und schon nach 10 Posts vorhersagen, ob der User ein Troll ist, der später gesperrt wird.

von
Anonym und hyperaktiv. Trolle führen im Internet Diskussionen auf Abwege und wollen andere Nutzer provozieren.
Anonym und hyperaktiv. Trolle führen im Internet Diskussionen auf Abwege und wollen andere Nutzer provozieren.Foto: imago stock&people

Sie wollen provozieren, wütende Antworten auslösen und Diskussionen sabotieren. Wenn sich Trolle in Diskussionsforen im Internet einmischen, ist das meistens destruktiv. Community-Moderatoren und Social-Media-Managern bereiten die Trolle Kopfschmerzen: Viele ihrer Kommentare müssen gelöscht werden – irgendwann bekommen sie möglicherweise einen Platzverweis und werden gesperrt.

Um Moderatoren das Leben leichter zu machen und potenzielle Trolle schneller zu erkennen, haben Forscher von der Stanford University einen Algorithmus entwickelt. Dieser soll schon nach den ersten zehn Posts prognostizieren, ob ein User irgendwann wegen asozialen Verhaltens gesperrt werden muss. Dazu untersuchten die Wissenschaftler zunächst die Kommentare unter den Beiträgen auf CNN.com, der Nachrichtenseite breitbart.com und dem Online-Magazin für Computerspiele IGN.com. Die Forscher konzentrierten sich auf etwa 12 000 User, die sich innerhalb eines Zeitraums bei einer der drei Seiten angemeldet hatten und später gesperrt wurden.

Trolle verstricken andere in zeitraubende Diskussionen

Doch woran erkennt man einen Troll? Die Forschung hat ergeben, dass die Posts von Trollen schlechter lesbar sind als andere, über die Zeit an Qualität verlieren, und dass Trolle mehr Zeit in einer einzelnen Diskussion verbringen. Ihre Beiträge bekommen weniger gute Bewertungen als andere, dafür aber viele Antworten. „Das legt nahe, dass sie andere in unergiebige, zeitraubende Diskussionen verstricken“, heißt es in der Studie. Ihre Beiträge werden auch häufiger gelöscht.

Anhand dieser Kriterien entwickelten die Forscher den Algorithmus, der in Zukunft schon früh auf potenzielle Trolle hinweisen soll. Für große Nachrichtenseiten wie CNN.com könnte das sinnvoll sein – dort braucht es durchschnittlich 124 gelöschte Kommentare, bis ein User tatsächlich gesperrt wird. „Wenn man diese Nutzer schneller findet, könnten Moderatoren in der Lage sein, die Community besser zu überwachen“, so die Hoffnung der Forscher.

Trolle sind oft hartnäckig

Dass sich Trolle häufig auf einzelne Diskussionsstränge und bestimmte User fokussieren, deckt sich mit den Erfahrungen der Community-Redaktion des Tagesspiegels. Täglich gehen dort um die 1500 Kommentare ein – gut zehn Prozent werden gesperrt, weil sie etwa beleidigend, sexistisch, homophob oder fremdenfeindlich sind. Trolle gibt es auf tagesspiegel.de aber vergleichsweise wenige. Erst wenn eine hohe Zahl an gesperrten Kommentaren zusammenkommt, wird der User ausgeschlossen. Einzelne melden sich jedoch unter neuen Pseudonymen mit neuen E-Mail-Adressen immer und immer wieder neu an.

Das zeigt: Trolle sind oft hartnäckig. Eine kanadische Studie aus dem Jahr 2014 unter dem Titel „Trolls just want to have fun“ legt zudem nahe, sie seien sadistisch veranlagt. Einig ist man sich im Bezug auf Trolle aber vor allem in dem Ratschlag: „Don’t feed the troll“. Denn erst wer auf die Provokationen des Trolls eingeht, bietet ihm ein Forum und gibt ihm genau das, was er will.

Autor