Hass in sozialen Netzwerken : Nazis sind schneller als der Staat

Die Bundesregierung will gegen Hass in sozialen Netzwerken vorgehen. Doch Rechtsextremisten suchen sich einfach neue Kanäle.

Eine Demo gegen Rechts in Hamburg.
Eine Demo gegen Rechts in Hamburg.Foto: Bodo Marks/dpa

Bevor der rechtsextreme Mörder von Hanau seine Taten beging, dachte er daran, seinen vermeintlichen Nachruhm im Netz zu organisieren: Bereits am 14. Februar stellte Tobias Rathjen ein englischsprachiges Video bei Youtube online, in dem er rassistische Verschwörungstheorien äußerte. Der Beitrag blieb bis zum Tag der Morde am 19. Februar online.

Nach Recherchen von Tagesspiegel Background löschte Youtube das Video auch deshalb nicht früher, weil es keine direkten Drohungen oder Aufforderungen zur Gewalt beinhaltete.

Rathjen hinterließ überdies ein Pamphlet im Netz, mit dem er seine Taten zu inszenieren versuchte. Das tat auch der Rechtsextremist Stephan Balliet, der am 9. Oktober in Halle zwei Menschen erschoss. Balliet war in der rechten Ecke der Gaming-Szene aktiv und kommunizierte, unbeobachtet von den Sicherheitsorganen, in speziellen Foren mit Gleichgesinnten.

Nazis bewegen sich sehr flexibel im Netz

Die großen sozialen Netzwerke brauchte er gar nicht, um mit anderen Rechtsextremisten in Kontakt zu kommen. Seine Radikalisierung fand dort statt, wo der Staat noch nicht regulierend eingegriffen hat. 

Die Bundesregierung hat sich zwar in den vergangenen Jahren immer wieder zum Kampf gegen den Rechtsextremismus im Internet bekannt. Das Problem ist jedoch, dass Nazis sich sehr flexibel im Netz bewegen: Viele der beschlossenen Regulierungen im Bereich der sozialen Medien könnten bereits jetzt von der Realität überholt sein. Andere Gesetze haben nie eine echte Tiefenwirkung entfaltet.

NetzDG gilt nur für Plattformen mit über zwei Millionen Nutzern

Ein Beispiel ist das nun als Regierungsentwurf vorliegende Gesetz zur Bekämpfung des Rechtsextremismus und der Hasskriminalität. Kern des Vorhabens ist eine Reform des Netzwerkdurchsetzungsgesetzes (NetzDG): Künftig sollen rechtswidrige Inhalte automatisch von den Plattformbetreibern an eine zentrale Meldestelle des Bundeskriminalamts (BKA) weitergeleitet werden. Außerdem werden Hassstraftatbestände im Strafgesetzbuch ausgeweitet. Dadurch sollen Hasskommentare einerseits flächendeckend verfolgt und andererseits effektiver bestraft werden.

Hass im Netz war auch Thema beim Düsseldorfer Karneval.
Hass im Netz war auch Thema beim Düsseldorfer Karneval.Foto: Federico Gambarini/dpa

Ein genauerer Blick zeigt jedoch, dass längst nicht alle Orte im Netz, in denen rechtsextreme Inhalte vorkommen, von der Regulierung durch das NetzDG betroffen sind. Von der NetzDG-Definition ausgenommen sind beispielsweise non-profit-orientierte Projekte sowie nicht-öffentliche Kommunikationskanäle.

Außerdem gelten die wichtigsten Regelungen des Gesetzes nicht für Plattformen, die in Deutschland weniger als zwei Millionen registrierte Nutzer haben. 

Studie: Telegram ist unter Rechtsextremisten populär

Unter den Telemediendiensten, die bisher nicht unter das NetzDG fallen, befinden sich auch der Gaming-Sprachchat Discord und der Messenger Telegram. Beide werden immer wieder unter dem Stichwort „Dark Social“ genannt, wenn es um die Verlagerung rechtsextremer Aktivitäten von öffentlich zugänglichen Plattformen hin zu teil-öffentlichen und bisweilen auch verschlüsselten Diensten geht. Thematisiert wurde dies beispielsweise im Munich Security Report, dem Bericht zur Münchner Sicherheitskonferenz.

Laut der Ende Januar veröffentlichten Studie „Alternative Wirklichkeiten“ der Amadeu-Antonio-Stiftung ist Telegram mittlerweile eine der meist genutzten Plattformen für die rechts-alternative Szene in Deutschland. Der in Russland gegründete Dienst mit Sitz in Dubai hat weltweit etwa 200 Millionen User. Wie viele Nutzer es in Deutschland gibt, veröffentlicht Telegram nicht. Der Frontmann der rechtsextremen Identitären BewegungMartin Sellner, empfahl den Umstieg auf Telegram im Jahr 2019, nachdem er auf Facebook und Instagram gesperrt wurde.

Bei Telegram organisiert: Die Identitäre Bewegung.
Bei Telegram organisiert: Die Identitäre Bewegung.Foto: Paul Zinken/dpa

Gruppenchats als Informationsmedium

Was den Messenger für Rechte so attraktiv macht, sind laut der Studie einige Features: Während etwa WhatsApp ein Limit von 256 Mitgliedern pro Gruppenchat hat, können Telegram-Gruppen bis zu 200.000 Mitglieder fassen. Auf diese Weise ist es einem einzelnen Sender möglich, Inhalte an eine Vielzahl von Empfängern zu verschicken. 

Kanäle können sogar eine unbegrenzte Anzahl von Abonnenten haben. So ist eine Kommunikationsform möglich, die der in den sozialen Medien nicht unähnlich ist. Eine inhaltliche Moderation durch den Plattformbetreiber findet jedoch nicht statt.

Darüber hinaus ist es mittels Telegram möglich, andere Nutzer in der näheren Umgebung zu finden. Diese Funktion machen sich rechte Gruppen bei ihrer Vernetzung zunutze. Die Studie untersuchte auch die größten rechten Kanäle im deutschsprachigen Netz. Von 197 analysierten Kanälen hatten einige mehr als 10.000 Abonnenten.

Amadeu-Antonio-Stiftung kritisiert mangelnde Strafverfolgung

Der Gaming-Sprachchat Discord wiederum verfüge als Plattform weltweit über 200 Millionen User, worauf laut der Traffic-Website Alexa 5,5 Prozent auf Deutschland entfielen. Damit läge Discord deutlich über dem NetzDG-Limit von zwei Millionen Nutzern. Auch hier ist zum Beispiel die Identitäre Bewegung präsent, die über einen Kanal namens „Infokrieg“ gezielt Kampagnen durchführt.

Andere Kanäle bei Discord, die nur auf Einladung betretbar sind, verteilen schlimmste Hetze unter den Kanalmitgliedern. Über gestaffelte Zugriffsrechte können bei Discord außerdem Hierarchien geschaffen werden, in denen sich Rechtsextremisten „hocharbeiten“, wenn sie ihre Ideologiefestigkeit unter Beweis stellen.

Potenzielle Täter fühlen sich zum Handeln ermächtigt

„Ich würde mir nicht nur Sorgen um verschlüsselte und nicht zugängliche Inhalte machen“, sagt Miro Dittrich von der Amadeu-Antonio-Stiftung. „Viele rechtsextreme Inhalte sind relativ gut zugänglich. Das Internet wird von der Politik nicht verstanden und viele Politiker sind leider immer noch überrascht darüber, wenn man ihnen zeigt, was alles im Netz zu finden ist.“

Das Grundproblem sei, dass trotz NetzDG und anderer Gesetze immer noch zu viele Menschen strafbare Inhalte posten können, ohne dafür belangt zu werden. Die Tatsache, dass es im Netz weiterhin viel rechtsextremen Content gebe, führe dazu, dass potenzielle Täter sich zum Handeln ermächtigt fühlten. „Sie haben den Eindruck, dass ein großer Teil der Bevölkerung hinter ihnen steht“, so Dittrich.

Wie soll mit Verschwörungstheorien umgegangen werden?

Ein weiteres schwieriges Thema dürfte die Regulierung von verschwörungsgetriebenen Inhalten sein. Wer etwa von „Umvolkung“ schwadroniert, macht sich damit zwar nicht automatisch strafbar, verbreitet aber rassistische Ideologien.

Auf Anfrage von Tagesspiegel Background verwies eine Sprecherin des Bundesministeriums der Justiz und für Verbraucherschutz (BMJV) bei der Bekämpfung von Verschwörungstheorien auf die bereits existierenden NetzDG-Regeln für große soziale Netzwerke – und auf die Meinungsfreiheit: „Bei Verschwörungstheorien, die keinen Straftatbestand erfüllen, dürfte die verfassungsrechtlich geschützte Meinungsfreiheit staatlichen Maßnahmen grundsätzlich entgegenstehen“, so die Sprecherin.

BMJV verweist auf geplante und bestehende Gesetze

Auch auf Fragen nach der Regulierung von „Dark Social“-Plattformen antwortete das BMJV mit Verweis auf bestehende oder bereits geplante Gesetze. Geschlossene Gruppen seien bereits heute vom Anwendungsbereich des NetzDG erfasst, wenn diese in den großen sozialen Netzwerken gebildet werden.

Plattformen jedoch, die zur Individualkommunikation bestimmt sind, seien vom Anwendungsbereich ausgeschlossen. „Die Einschränkungen des Anwendungsbereichs wurden gewählt, um gezielt diejenigen Anbieter zu erfassen, die für die öffentliche Meinungsbildung besonders relevant sind“, so die Sprecherin.

Verschlüsselte Messengerdienste könnten laut BMJV mittels der Quellen-Telekommunikationsüberwachung (Quellen-TKÜ) kontrolliert werden. Die Sprecherin nannte dies ein „wichtiges Instrument“. Allerdings ist dafür ein richterlicher Beschluss notwendig. Einen präventiven Zugriff auf verschlüsselte und unmoderierte Messengerdienste, die als Instrument zur Massenkommunikation benutzt werden, lässt die Quellen-TKÜ nicht zu. 

Hauptsächlich also „analoge“ Maßnahmen

Was eine mögliche Gesamtstrategie zur Bekämpfung des Rechtsextremismus und den sich ändernden Kommunikationsstrategien der rechten Szene betrifft, verwies die Sprecherin auf das am 30. Oktober 2019 vom Bundeskabinett beschlossene Maßnahmenpaket gegen Rechtsextremismus und Hasskriminalität.

Lambrecht, Seehofer und Giffey verkünden Maßnahmen zur Bekämpfung des Rechtsextremismus und Hasskriminalität.
Lambrecht, Seehofer und Giffey verkünden Maßnahmen zur Bekämpfung des Rechtsextremismus und Hasskriminalität.Foto: imago images/Christian Thiel

Außer dem fast gleichlautenden Gesetz, das jüngst beschlossen wurde, finden sich in dem Paket unter anderen Absichtserklärungen für eine Verschärfung des Waffenrechts, die Ausweitung von Melderegistern und eine intensivere Bearbeitung des Themas Rechtsextremismus durch den Verfassungsschutz – hauptsächlich also „analoge“ Maßnahmen, die nur wenig zur Verfolgung von Rechtsextremisten im Netz beitragen.

Kritik am NetzDG 

Ob das NetzDG als Instrument der Strafverfolgung taugt, bleibt indes fraglich. Ursprünglich war das Gesetz dazu gedacht, das Beschwerdemanagement der Plattformen besser zu regulieren. Kritiker bemängeln das schon seit geraumer Zeit, zuletzt schrieben zahlreiche Verbände und Organisationen einen offenen Brief an SPD-Justizministerin Christine Lambrecht.

Die Studie der Amadeu-Antonio-Stiftung untersuchte übrigens 392 Youtube-Kanäle mit rechten, rechtsradikalen und rechtsextremen Inhalten – in einem Themenspektrum von Antisemitismus, Islamfeindlichkeit und rechter Satire bis hin zur offenen Zustimmung zum Nationalsozialismus. Allein die elf populärsten Kanäle hatten zusammen 177 Millionen Views. Dass viele dieser Kanäle immer noch frei im Netz verfügbar sind – daran hat auch das NetzDG nichts geändert.

Jetzt neu: Wir schenken Ihnen 4 Wochen Tagesspiegel Plus!