EU-Gesetzinitiative zu Tech-Konzernen: Desinformation und Hetze müssen zum Risikogeschäft werden

Felix Kartte hat sich beim Europäischen Auswärtigen Dienst mit Desinformation befasst und berät jetzt Regierungen im Umgang mit digitalen Bedrohungen.

Vergangene Woche erlebte Amerikas Demokratie gleich zwei Schockmomente: Erst überfällt ein algorithmisch aufgeheizter Mob das Kapitol, dann schaltet ein Privatunternehmen den US-Präsidenten ab - und offenbart damit die unkontrollierte Macht der Plattformen. Spätestens jetzt sollte klar sein: Wir dürfen demokratische Normsetzung nicht länger einer Handvoll von Tech-Milliardären überlassen, die sich ihren Aktionären mehr verpflichtet fühlen, als den Grundrechten ihrer Nutzer.

Trotzdem war es übergriffig, als die Bundeskanzlerin Kritik übte an Twitters Entscheidung, Trump von der Plattform zu verbannen. Merkels Sprecher legte gestern sogar nahe, dass Twitter kein Recht habe, Inhalte zu löschen, die von der Meinungsfreiheit gedeckt sind. Das ist falsch: selbstverständlich sollte ein privater Plattformbetreiber etwa das Verbreiten von Falschinformationen über den Corona-Impfstoff verbieten, obwohl er dazu nicht gesetzlich gezwungen ist.

Dennoch ist es gut, dass die Politik ihren Gestaltungsanspruch im digitalen Raum entdeckt. Solange es aber nicht um klar definiertes illegales Material wie Kinderpornographie oder Volksverhetzung geht, sollte sich der Staat aus den Inhaltsrichtlinien der Plattformen heraushalten.

Vielmehr sollte ihn interessieren, wie fair und transparent die Unternehmen diese Richtlinien umsetzen: Der eigentliche Skandal ist schließlich, dass Twitter und Facebook dem Trump-Lager über Monate demokratiefeindliche Lügenkampagnen durchgehen ließen, für die jeder normale Nutzer längst von der Plattform geflogen wäre. Natürlich dürfen die Unternehmen ihre Spielregeln selbst definieren - gelten aber müssen sie für alle.

EU-Gesetzinitiative steht jetzt schon unter Beschuss der Plattform-Lobby

Statt selbst in Debatten einzugreifen sollte der Staat gesetzliche Anreize schaffen, damit die Tech-Konzerne ihre Geschäftspraktiken mit demokratischen Prinzipien in Einklang bringen. Finanzielle Strafen sollten Facebook und Google drohen, weil sie Nutzern nach Konto-Suspendierungen keinen echten Widerspruch ermöglichen, weil sie Wissenschaftler schikanieren, und nicht wahrheitsgemäß über das Ausmaß von Hassrede oder Datenmissbrauch auf ihren Plattformen berichten.

© picture alliance/dpa

Deshalb hat die EU-Kommission eine Gesetzesinitiative vorgelegt, die erstmals den Anspruch stellt, Rechenschafts- und Sorgfaltspflichten für die Tech-Konzerne festzulegen. Der Digital Services Act (DSA oder Digitale-Dienste-Gesetz) soll Transparenz in den Netzwerken erzwingen: Damit könnte das Gesetz die Selbstheilungskräfte der offenen Gesellschaft aktivieren und Desinformation und Hetze zum Risikogeschäft werden lassen.

[Wenn Sie alle aktuellen Entwicklungen zur Coronavirus-Pandemie live auf Ihr Handy haben wollen, empfehlen wir Ihnen unsere App, die Sie hier für Apple- und Android-Geräte herunterladen können ]

Allerdings hat sich die Plattform-Lobby schon auf das Vorhaben eingeschossen: auch deshalb sollte Deutschland noch vor Beginn des digitalen Bundestagswahlkampfs eine Debatte darüber beginnen, wie sich ein Totalschaden an der Demokratie abwenden lässt. Deshalb lohnt es sich durchzuspielen, wie das mögliche neue Regelwerk der EU eine Gesellschaft widerstandsfähiger gegen Trump und Twitter gemacht hätte.

1. Europäische Regeln hätten Tech-Konzerne zu früherem Handeln gezwungen

Vereinzelt sind Facebook und Twitter während des US-Wahlkampfs zwar gegen die Lügenkampagnen des Trump-Lagers vorgegangen, so etwa gegen das Märchen eines Wahlbetrugs. Doch genug war das lange nicht: Obwohl Experten eindringlich vor dem entfesselten Hass im Netz gewarnt hatten, fanden Forscher etwa noch am Wahltag hunderttausende Facebook-Kommentare, die zu politisch motivierter Gewalt aufriefen. Die neuen EU-Regeln würden die Plattformbetreiber für dieses fahrlässige Verhalten zur Rechenschaft ziehen:

●   Nach dem DSA müssten die Unternehmen mit hohen Bußgeldern rechnen, wenn sie strafbare Inhalte nicht gewissenhaft löschen, obwohl sie nachweislich Kenntnis von diesen Inhalten hatten - etwa weil sie von Nutzern oder Behörden gemeldet wurden. Obwohl nicht unumstritten, zwingt das Netzwerkdurchsetzungsgesetz die Plattformen in Deutschland schon jetzt zu mehr Einsatz gegen Hate Speech.

Laut dem Kommissionsvorschlag sollten die Betreiber das Augenmerk zudem auf besonders reichweitenstarke Social-Media-Profile legen, so wie etwa Trumps Twitter-Konto. Die Beweislast läge dabei übrigens bei den Konzernen: Sie müssten auf Nachfrage belegen können, dass sie ausreichend Vorkehrungen gegen die Verbreitung von Hass und Hetze getroffen haben.

© PavloxGoncharx/ imago images/ZUMA Wire

●     Die neuen EU-Regeln würden Tech-Konzerne auch zu mehr Eigenverantwortung motivieren. Bislang müssen die Unternehmen fürchten, für Nutzer-Inhalte haftbar gemacht zu werden, wenn sie auf eigene Initiative nach strafbarem Material suchen, ohne dass sie von Nutzern oder Behörden auf dessen Existenz hingewiesen wurden.

Einfach gesagt: wenn die Plattformen Nutzerinhalte auf Rechtsbrüche hin filtern, dann gelten sie laut aktueller Regelung nicht mehr als neutrales Kommunikationswerkzeug. Vielmehr könnten sie für die strafbaren Inhalte ihrer Nutzer dann genauso zur Rechenschaft gezogen werden, wie eine Zeitungsredaktion, die Leserbriefe mit Mordaufrufen abdruckt.

 [Mit dem Newsletter „Twenty/Twenty“ begleiten unsere US-Experten die Ereignisse in den USA. Hier geht es zur kostenlosen Anmeldung: tagesspiegel.de/twentytwenty.  ]

Der DSA würde den Betreibern nun explizit versichern, dass sie "Untersuchungen auf eigene Initiative" durchführen können, ohne ihr Haftungsprivileg zu verlieren. Derweil ist es richtig, dass die EU-Kommission am Haftungsprivileg für die Betreiber festhält: sollte sie davon abrücken, dann wären Upload-Filter für alle Nutzerinhalte die Folge - und das Ende des freien Internets.

●     Die Unternehmen müssten laut Kommissionsvorschlag auch Verantwortung für Inhalte wie Fake News übernehmen: Die sind zwar nicht strafbar - durch ihre massive Verbreitung verüben Facebook oder YouTube aber Schaden an der Demokratie.

Statt mit Zensur zu zündeln, setzt die Kommission deshalb auf neue Rechenschafts- und Sorgfaltspflichten: So hätten die Plattformen schon Monate vor den US-Wahlen transparente Risikoanalysen durchführen und veröffentlichen müssen.

Darin hätten die Technologiekonzerne darlegen müssen, wie sie sicherstellen wollten, dass ihre Algorithmen keine Gewaltaufrufe vervielfältigen, oder dass weder rechtsextreme Gruppen, noch autoritäre Staaten wie Russland und China sich mit Fake-Accounts in den Wahlkampf einmischen. Dabei würden die Unternehmen an Leistungsindikatoren gemessen, die nicht mehr sie selbst definieren - und müssten sich für externe Prüfungen öffnen.

●     Laut Entwurf will die Kommission außerdem eine neue Digital-Behörde mit weitreichenden Kontroll- und Durchgriffsrechten ausstatten. Demnach hätte Mark Zuckerberg kurzfristig zum Verhör zitiert werden können, wenn Facebook in seinen Risikoanalysen wissentlich falsche Zahlen vorgelegt hätte - oder vor der Wahl nicht ausreichend gegen Hass und Hetze vorginge - so wie zuletzt in den USA.

Die neue Digital-Behörde könnte letztlich sogar Durchsuchungen in den Büros der Plattformbetreiber veranlassen, wenn sie Gesetze missachten, oder ihre eigenen vollmundigen Versprechen konsequent brechen, so wie etwa, gegen den militanten Kult QAnon vorzugehen.

●     Im Rahmen des DSA hätte die Regulierungsbehörde Plattformen zur Aktivierung sogenannter Krisenprotokolle auffordern können, nach denen sie untereinander etwa in Echtzeit teilen könnten - etwa über neue Hashtags wie #StormTheCapitol, die der Organisation von politischer Gewalt dienen, oder über verifizierte Wahlergebnisse.

2. Grundrechte wie die Meinungsfreiheit würden gestärkt

●     Twitters Entscheidung, Trump zu sperren, war moralisch wohl angemessen. Zurecht hat sie die Weltöffentlichkeit aber auch aufschrecken lassen angesichts der unkontrollierten Macht einiger weniger Privatunternehmen. Nach den neuen EU-Vorschriften müssten Technologieunternehmen ihre Inhaltsrichtlinien transparent und konsequent durchsetzen und kommunizieren.

Darüber hinaus könnte Twitter aufgefordert werden, Archive von Trumps Tweets mit Wissenschaftlern zu teilen, um sicherzustellen, dass sie der öffentlichen Debatte und der Geschichtsschreibung zur Verfügung stehen.

●     Vor allem aber würde das neue EU-Gesetz die Rechte aller Nutzer stärken, deren Profile oder Beiträge zu Unrecht gelöscht wurden. Facebook und Twitter würden nun das Gesetz brechen, wenn sie Nutzern keine detaillierten Erklärungen geben und Widerspruch ermöglichen.

Solche Grundrechtsgarantien hätten das Zensur-Geschrei des Trump-Lagers abgewürgt, oder zumindest abgemildert. Das könnte die Unternehmen auch dazu ermutigen, nicht nach Maßgaben der PR-Abteilung zu arbeiten, sondern nach demokratischen Prinzipien. 

3. Die Zivilgesellschaft könnte ihre Rolle als Wächterin wahrnehmen

●     Der Angriff auf das US-Kapitol wurde nicht im Verborgenen geplant, sondern in öffentlichen Social-Media-Gruppen - doch die Unternehmen schenkten Experten kein Gehör. Nach den neuen EU-Regeln könnten Google oder Twitter zur Kooperation mit Forschung und Zivilgesellschaft gezwungen werden.

Zum Beispiel wären Plattformen verpflichtet gewesen, mit externen „Hinweisgebern“ wie Faktencheckern zusammenzuarbeiten - und dürften deren Warnungen nicht länger einfach ignorieren. Solche Kooperationspflichten hätten es für Facebook deutlich schwerer gemacht, einfach über die Desinformationskampagnen des Trump-Lagers hinwegzusehen.

●     Außerdem hätten Plattformen gezwungen werden können, Daten mit Wissenschaftlern zu teilen, die etwa die Auswirkungen der kommerziellen Plattformtechnologie auf Demokratie, öffentliche Sicherheit oder Minderheitenrechte untersuchen wollen. Bisher hat vor allem Facebook alle Forschungsinitiativen gezielt ins Leere laufen lassen, und die Wissenschaft damit gegen sich aufgebracht. Ohne datenbasierte Forschung werden die USA keine vernünftigen Lehren ziehen können aus dem Totalausfall der Demokratie, der auch Jahren von Hass und Lüge aus dem digitalen Megaphon geschuldet ist. 

4. Die Sicherheitsbehörden wären vorbereitet gewesen

Der DSA würde die Tech-Konzerne dazu verpflichten, die Behörden zu informieren, wenn sie an Informationen gelangen, die den Verdacht auf schwerwiegende Straftaten begründen. So hätten Facebook und Twitter das FBI benachrichtigen müssen, als sie schon Wochen im Voraus Hinweise auf die Planung eines gewalttätigen Überfalls auf das Kapitol erlangten.

Felix Kartte