Widerstand gegen Online-Hass: Was organisierte Gegenrede in sozialen Netzwerken bringt

Marlis Prinzing ist Professorin für Journalistik an die Macromedia Hochschule für Medien und Kommunikation in Köln.

Schmähung und Hass im Netz sind ein Dauerproblem, zahlreiche Initiativen wollen dieser Anstandslosigkeit mit praktischen Methoden entgegentreten. Ob solche Mühe wirklich lohnt, war bislang ungewiss. Eine Studie zeigt nun, wie organisierter ziviler Widerstand gegenüber Hasstiraden im Netz wirkt, aber auch, wo Algorithmen an Grenzen stoßen.

Der Neuroinformatiker Keyan Ghazi-Zahedi arbeitet am Max-Planck-Institut für Mathematik in den Naturwissenschaften in Leipzig und am Santa Fe Institute in den USA, wo er gemeinsam mit Kollegen einen Algorithmus entwickelt hat, der organisierte Gegenrede in deutscher Sprache auf Twitter erkennt.

Sie nutzen dazu die relativ einzigartige Situation, dass es in Deutschland die Bürgerrechtsbewegung „Reconquista Internet“ gibt. Der Fernsehmoderator Jan Böhmermann hat sie 2018 angestoßen als eine Gegenbewegung zu dem rechten Netzwerk „Reconquista Germanica“, das Hassattacken im Netz organisiert und verbreitet. Dadurch liegen nun viele Daten zur organisierten Gegenrede vor.

Die Forscher untersuchten 4,5 Millionen Tweets per Netzwerkanalyse und gaben die Daten in eine Künstliche-Intelligenz-Struktur (KI) ein, die auf dieser Grundlage „lernen“ soll, Gegenrede zu erkennen. Die KI muss in Prozent angeben, mit welcher Wahrscheinlichkeit sie einen Tweet als Hass beziehungsweise als Gegenrede einsortiert.

Der energetische Aufwand ist immens, um einen solchen Algorithmus zu trainieren; es braucht Millionen von Beispielen und Daten, zunächst aus bekanntem Material, danach mit unbekannten Beispielen.

Vielleicht eine Lösung, um Hass zu bekämpfen

Die Ergebnisse deuten darauf hin, dass die Gegenrede, die Reconquista Internet organisierte, tatsächlich depolarisierend wirkte und zu weiteren Gegenreden anregte sowie zu Äußerungen, die deutlich weniger von Hass durchtränkt waren. Eine organisierte Gegenrede könnte demnach eine wirkungsvolle Lösung sein, um Hass im Internet zu bekämpfen.

Die Wissenschaftler kombinierten die automatisierte Klassifikation von Gegenrede mit einem Crowdsourcing-Setting: Sie setzten Menschen als Kontrollgruppe ein und beauftragten sie, die Tweets ebenfalls zu kategorisieren.

Der Vergleich lieferte zu einem großen Teil deckungsgleiche Ergebnisse: Mensch und Algorithmus „urteilten“ ähnlich. Allerdings nur bei Gegenrede, die auf faktischer Ebene erfolgt. An Gegenrede mit Mitteln von Ironie und Humor oder in Gestalt von Ablenkungsmanövern scheitert der Algorithmus. Außerdem kann er nur deutsche Sprache und nur Tweets verarbeiten.

Aber die Erkenntnisse der Studie helfen, die Dynamik zwischen Hass und Gegenrede besser zu verstehen. Und sie könnten Startpunkt sein für eine Strategie, die automatisierte Vorsortierung und menschliche Einordnung kombiniert.

Marlis Prinzing