Hass im Netz, Gewalt, Pornografie: Medienkontrolle als Exportschlager

Exzessive Gewaltdarstellungen, Pornoseiten ohne Alterscheck, Holocaust-Leugner und religiöse Extremisten, aber auch schwere Jugendgefährdung durch gefährliche Sexualpraktiken oder Drogenverherrlichung und Suizidanleitungen, von alledem gibt es massenhaft im Internet. Dagegen vorzugehen, gehört zu den Aufgaben der Landesmedienanstalten. Von März 2021 bis April 2022 haben sie nahezu doppelt so viele Strafanzeigen an die Staatsanwaltschaften übermittelt wie in den zwölf Monaten davor .

Der extreme Anstieg resultiert aus der Einführung einer Software namens Kivi. Das Kunstwort setzt sich aus der Abkürzung KI für Künstliche Intelligenz und Vigilante für eine Bürgerwehr zusammen. Nachdem das von der der Landesanstalt für Medien NRW zusammen mit der Berliner Condat AG entwickelte Werkzeug zunächst in Nordrhein-Westfalen erprobt wurde, wird es seit einigen Wochen bundesweit von den Landesmedienanstalten eingesetzt.

[Der tägliche Nachrichtenüberblick aus der Hauptstadt: Schon rund 57.000 Leser:innen informieren sich zweimal täglich mit unseren kompakten überregionalen Newslettern. Melden Sie sich jetzt kostenlos hier an.]

Der Erfolg hat sich über die deutschen Landesgrenzen hinweg herumgesprochen. Gerade war Tobias Schmid, der Direktor der Düsseldorfer Medienanstalt, zu Besuch in Wien. Kivi war dort eines der Themen. Denn die österreichischen Medienwächter sind ebenfalls an der automatisierten Durchsuchung von Webseiten, Videoplattformen, Social Networks und Messaging-Diensten interessiert. Die Alpenrepublik ist dabei nicht das einzige Land, mit dem die Nordrhein-Westfalen über den Export sprechen.

„Wir freuen uns über das große Interesse auch unserer europäischen Kollegen, vor allem der Belgier und Österreicher, mit denen wir zum Anwendungsbereich von Kivi im Austausch sind. Der Einsatz dieses Tools in Deutschland beweist schon heute, dass effektive Medienaufsicht mit den richtigen Mitteln auch föderal gelingt“, sagt Medienwächter Tobias Schmid. Kivi bietet dazu eine technisch überaus anspruchsvolle Hilfe.

Verstörend und belastend

Barbara Banczyk ist als Referentin im Team Aufsicht bei der Landesanstalt für Medien in NRW für das KI-Projekt verantwortlich. „2019 stellte sich die Frage: Wie können wir unsere Aufgabe, also das Netz nach potenziellen Rechtsverstößen zu durchsuchen, noch besser erfüllen?“ Bis dato suchten studentische Aushilfen manuell nach den Verstößen. Eine harte Kost, denn die gefundenen Inhalte sind häufig nicht nur verstörend, sondern auch mental belastend. Doch es ging nicht nur um den Schutz der Mitarbeiter, sondern auch um Effizienz.

Wie eine Suchmaschine durchforstet das Programm mittels Stichworten und Links nach Verstößen. Dabei kommen verschiedenen Techniken zum Einsatz. Videos werden mittels Keyframe-Extraction zerlegt. Texte in Bildern werden über die sogenannte Optical Character Regognition – kurz OCR – erkannt. Die Speech-to-Text-Technik erlaubt die Texterkennung in Audiodateien und mittels weiterer Routinen werden Zusatzinformationen wie Regionerkennung, Nutzerzahlen und andere Daten gewonnen. Das Tool kann zurzeit über 10 000 Seiten pro Tag untersuchen, bei Bedarf lässt sich diese Leistung noch erhöhen.

© dpa/Frank Rumpenhorst

Außerdem ist das Tool lernfähig. Neue Bilder oder Textbeispiele lasse sich auf einfache Weise einspeisen. Auch das Feedback der Medienwächter, die die Fundstellen bewerten, fließt in die KI-Suche ein. Doch es gibt auch Grenzen. Verstöße gegen die journalistische Sorgfaltspflicht – oder die Verbreitung von Fake News wie durch KenFM – lassen sich noch nicht über die KI aufspüren. „Aber auch daran wird gearbeitet“, sagt Barbara Banczyk.

Die Technik erledigt die Vorarbeit. Die anschließende Prüfung übernehmen Mitarbeiterinnen und Mitarbeiter der Landesmedienanstalten. Ist dies der Fall, kann der Verstoß an die Ermittlungsbehörden weitergeleitet werden. Dabei geht es den Medienwächtern nicht nur um die Bestrafung von Tätern, sondern genauso darum, die inkriminierten Inhalte aus dem Internet zu entfernen.

Automatisch vorbereitete Anzeigen

Kivi bedeutet dabei eine erhebliche Arbeitserleichterung: So werden Strafanzeigen automatisch vorbereitet. Das Tool übernimmt später zudem die automatische Überprüfung, ob Inhalte zu bereits gefundenen Verstößen noch online auffindbar sind. Außerdem unterstützt die Software die automatisierte Dokumentation weiterer medienrechtlicher Verfahrensschritte wie der Anhörung des Verantwortlichen des Verstoßes.

Der Hauptteil der identifizierten potenziellen Rechtsverstöße findet sich im Bereich der Pornografie. Bei einem kleineren, aber nicht zu vernachlässigenden Teil handelt es sich um Gewaltdarstellungen und Holocaust-Leugnungen und Volksverhetzungen. Die entdeckten Verstöße werden nach Priorität, also Schwere des Verstoßes, abgearbeitet.

Die Arbeit der Medienwächter zeigt Wirkung. Eine davon ist allerdings auch, dass viele Täter ins außereuropäische Ausland abwandern – oder anonym agieren. „So findet man in Deutschland kaum einen großen Anbieter von pornografischem Material, der sich nicht rechtskonform verhält“, weiß Banczyk.

Aber es gilt das Ziellandprinzip. Die Medienanstalten interessiert nicht, wo sich die Webseite befindet, sondern ob sie auf Nutzer in Deutschland ausgerichtet ist. Das betrifft somit auch die jüngsten Verfahren der Medienanstalten gegen die großen Pornoanbieter mit Sitz im Ausland. „Das ist für uns kein Grund, um uns nicht darum zu kümmern. Wir gehen das an und verfolgen diese Anbieter, weil sie massiv den deutschen Markt adressieren.“ Dank Kivi können auch sie sich nun schlechter verstecken.