Herrschaft im digitalen Zeitalter : "Wir sollen weiter manipuliert werden - nur anders"

IT-Experte Gregor Engelmeier spricht über Macht und Apps, die Gefahren der EU-Urheberrechtsreform und über Freiheit und Digitalisierung.

Alles Neuland? Im Internet wird um Geld und Macht gerungen.
Alles Neuland? Im Internet wird um Geld und Macht gerungen.Foto: Getty Images/iStockphoto

Der Berliner Informatiker Gregor Engelmeier entwickelt Lernsoftware für weltweit tätige Internetplattformen, Versicherungen oder Pharmaunternehmen. Über seinen beruflichen Alltag hinaus interessiert sich der IT-Experte besonders dafür, wie sich soziale und technische Systeme gegenseitig durchdringen – also wie seine Branche die Gesellschaft verändert.

Herr Engelmeier, am Dienstag will die EU das Urheberrecht verschärfen, Zehntausende zumeist junge Menschen gehen dagegen auf die Straße. Erleben wir gerade das Ende des freien Internets in Europa?
Nein. Aber die Politik hat sehr wohl begriffen, dass die neuen Kommunikationsmedien die Herrschaftsfrage stellen. Facebook kann Wahlen entscheiden. Deshalb wollen die Herrschenden diese neuen Medien einer stärkeren Kontrolle unterwerfen.

Bundesinnenminister Horst Seehofer möchte, dass der Verfassungsschutz bei Whatsapp mitlesen darf. Justizministerin Katarina Barley will der Polizei mehr Daten von Tätern, Opfern und Zeugen bis hin zu DNA-Spuren zugänglich machen.
Diese Vorhaben beleuchten eine mögliche Schattenseite der grassierenden Überwachungseuphorie: die Auslieferung der Bürger an die Launen fehlbarer Beamter.

Der Grünen-Politiker Konstantin von Notz ist Mitglied des Bundestagsausschusses, der die Geheimdienste kontrollieren soll. Er sieht eine „verfassungsfeindliche Grundhaltung“ bei SPD und CDU und spricht von „Datamining gegen die eigene Bevölkerung“. Teilen Sie seine Ansicht?
Ich sehe darin ein bedenkliches Muster. Ich beobachte, dass sich die Gewichte in der für unsere Freiheit essentiellen Gewaltenteilung immer mehr in Richtung der Exekutive verschieben. Die größte ethische Frage im Internet ist: Wie schütze ich das Individuum vor Manipulation? Anscheinend haben sich unsere Legislative und Exekutive auf einen Weg begeben, auf dem nicht die Individuen vor Manipulation geschützt werden sollen, sondern auf dem sie lediglich anders manipuliert werden.

Was genau meinen Sie?
Es gibt eine lange Kette von Gesetzgebung, die den staatlichen Zugriff auf Informationen konsequent ausbaut. Das neue Gesetz zum Bundesnachrichtendienst hat letztes Jahr vieles von dem legalisiert, was nach den Enthüllungen von Edward Snowden noch als illegal gebrandmarkt wurde. Und die privaten Plattformen werden zunehmend unter politisch-juristischen Druck gesetzt. Beim Netzwerkdurchsetzungsgesetz des damaligen Justizministers Heiko Maas war das noch relativ unelegant und offensichtlich. Das war eine Lex Facebook – offiziell, um „Hatespeech“ zu verbannen. Letztendlich wird so aber inhaltliche Zensur hoffähig gemacht, die Plattformen werden politischer Kontrolle unterworfen.

Sie fürchten, dass Facebook in Deutschland ein neuer öffentlich-rechtlicher Internetrundfunk wird?
Das ist tatsächlich eine mögliche Entwicklung. Der öffentliche-rechtliche Rundfunk wurde nach dem Zweiten Weltkrieg ja unter anderem geschaffen, um in das Volk, dem man misstraute, hineinwirken zu können. Diese Herkunft aus der Idee der Reeducation hat das öffentlich-rechtliche System in Deutschland nie ganz abgeschüttelt. Heute sitzen in Berlin 600 Leute von Facebook und flöhen ihre Plattform nach unerwünschten Inhalten. Für die Regierung ist das Netzwerkdurchsetzungsgesetz ein erster Versuch, auch in diesem neuen Medium Öffentlichkeit in ihrem Sinne zu gestalten. Viel eleganter geht aber die Urheberrechtsnovelle der Europäischen Union vor.

Gregor Engelmeier, 54, ist Informatiker und Software-Entwicker.
Gregor Engelmeier, 54, ist Informatiker und Software-Entwicker.Foto: Kitty Kleist-Heinrich

Was haben Sie dagegen, geistiges Eigentum im Internet zu schützen?
Ich habe nichts dagegen, dass die Interessenverbände der Urheberrechtshändler und Verwerter ihr Geschäftsmodell am Leben erhalten wollen. Aber sie lassen sich dazu zum Handlanger der staatlichen Einflussnahme machen. Um ihre wirtschaftlichen Interessen durchzusetzen, nehmen sie billigend in Kauf, die Betreiber großer technischer Plattformen zum Aufbau einer Prüf-Infrastruktur für Urheberrechtsverletzungen zu zwingen. Doch diese Infrastruktur ist ihrer Natur nach dazu geeignet, jederzeit auch für eine inhaltliche Zensur eingesetzt zu werden. Gleichzeitig werden in Absatz 13 der Novelle die Regierungen der EU aufgefordert, die konkrete Ausgestaltung dieser Technologie zu beeinflussen. Die ungarische Regierung von Victor Orbán wird also aufgerufen, zusammen mit den Betreibern der Plattformen diese potenziellen Zensurmechanismen zu gestalten. Das ist ziemlich gruselig.

Wie soll man sonst russische Trolls, Rechtsradikale und Fake News eindämmen?
Dazu müsste der Staat nur diese großen Plattformen zu konventionellen Medien erklären, die dem Presserecht unterliegen und für alle Veröffentlichungen selbst verantwortlich sind. Das tut man deshalb nicht, weil sich die Politik dadurch selbst eines mächtigen Instruments zur Herrschaftsausübung berauben würde. Die traditionelle Antwort unserer offenen Gesellschaften auf Desinformation ist Aufklärung – nicht Unterdrückung. Aber mit der Aufklärung versucht man es erst gar nicht, weil man damit die Werkzeuge der Herrschaft, die man gerne benutzen möchte, entwerten würde.

Wie funktionieren diese Werkzeuge?
Wie bei der Fake News „Obama ist kein Amerikaner“. Dieses Gerücht wurde ausgespielt und systematisch über verschiedene Plattformen gepusht. Die Views waren unendlich viel höher als bei anderen Nachrichten – es war ja so lustig. In einer digital kompetenten Gesellschaft wäre den Nutzern klar, was hier passiert.

Was denn?
Das dies eine blöde und langweilige Meldung war, die früher in der Schundpresse gestanden hätte. Doch gerade bei Trump haben komplett abstruse Stücke Konjunktur, weil sie unterhaltsam sind. Das bringt Aufmerksamkeit und Geld. Wenn ich den Mechanismus der Monetarisierung der Aufmerksamkeit beherrsche, beherrsche ich die öffentliche Meinung. Die Herrschenden in Peking, Moskau und Brüssel haben alle dasselbe Problem: Sie müssen in diesem Umfeld regieren – dazu müssen sie Legitimitätsglauben erzeugen. Wenn ich Einfluss auf die gesellschaftliche Kommunikation verliere, kann ich diesen Glauben nicht mehr erzeugen.

Und dann?
Passieren Dinge wie der Klimastreik der Schüler, bei dem eine gesellschaftliche Debatte komplett explodiert und die Politik vor sich hertreibt. Oder die Gelbwesten-Bewegung in Frankreich, die die Legitimität der Regierung bestreitet. In den USA stellten die Breitbart-Leute das ganze politische System infrage.

Und hierzulande?
Nimmt die Politik noch Rücksicht darauf, dass wir eine durch das dunkle 20. Jahrhundert hindurch bitter gewonnene Geschichte der Emanzipation haben und die Menschen ungern auf Freiheit verzichten. Wenn man die Freiheit offen einschränkt, werden die Leute sauer. Deshalb werden viele Gesetze mit dem Vorwand der Sicherheit legitimiert.

Der alte Kampf: Freiheit gegen Sicherheit.
Ja, und das Internet ist das neue Schlachtfeld. Seine Regulierung ist nur ein Kapitel in der dauernden Auseinandersetzung mit dem Problem, wie sich die Freiheit des Einzelnen zu einem gerechtfertigten Herrschaftsanspruch der Regierungen verhalten soll. Neu ist, dass dabei die Tech-Konzerne mitspielen. Eine Organisation wie Facebook, die Wahlen entscheiden kann, ist selbst eine Art Meta-Regierung.

Hatte Bundeskanzlerin Angela Merkel also Recht, als sie das Internet als „Neuland“ bezeichnete?
Natürlich. Warum reden wir jetzt darüber? Weil wir im Neuland sind und versuchen, es zu begreifen. Wer sagt: „Die Kanzlerin nutzt nicht mal Whatsapp!“, der greift ein bisschen kurz.

Dann klären Sie uns auf.
Digitalisierung ist ein sozial-technologischer Prozess. Es entstehen Gemeinschaften rund um Apps wie Facebook oder Online-Spiele. Darin gibt es zwei Akteure, Menschen und Maschinen. Und beide Akteure verfolgen Ziele: Die Menschen wollen Spaß haben, und die Maschinen sind dazu eingerichtet, die Menschen systematisch zu geldbringenden Aktivitäten zu führen. Das ist ganz anders als bei allen Medien bisher und wirft völlig neue Fragen auf. Denn ich fürchte, die Bundeskanzlerin hat auch Recht, wenn sie sagt: „Es wird alles digitalisiert werden, was digitalisiert werden kann.“

Trägt die Digital-Offensive an den Schulen zur Bildung von digital kompetenten Bürgern bei?
Nein. Es bringt überhaupt nichts, wenn für fünf Milliarden Euro Tablets und Internetzugänge in den Schulen abgeworfen werden. Eine App bedienen zu können, ist kein Zukunfts-Skill, den ich brauche. Im Silicon Valley begrenzen leitende Mitarbeiter der Tech-Konzerne rigide die Online-Zeiten ihrer Kinder, in den Schulen und zu Hause. Gerade weil sie wissen, was da passiert. In den öffentlichen Schulen Kaliforniens werden dagegen nach wie vor Tablets ausgekippt. Das ist entweder wenig durchdacht oder perfide.

Wie sähe eine sinnvolle digitale Bildungspolitik aus?
Man muss den Menschen die Mittel geben zu reflektieren, wie ihre digitale Umwelt aufgebaut ist. So wie man Schüler auch befähigt, mit Filmen, Werbung, Presseerzeugnissen oder Romanen umzugehen, sollten sie lernen, wie Programme konstruiert sind, etwa das Spiel „Fortnite“. Wie ist die Erzählstruktur, die Bildwelt? Warum macht mich das so an, welche Stilmittel und Verführungstechniken werden verwendet? Will ich mich davon anmachen lassen, und wenn ja warum?

Die Internetexpertin des Bundesmissbrauchsbeauftragten, Julia von Weiler, fordert ein Smartphone-Verbot für Minderjährige unter 14 Jahren. Ein guter Vorschlag?
Man kann viel fordern. Aber wenn die ganze Klasse Whatsapp nutzt, haben es Kind und Eltern schwer, sich dem zu entziehen.

Sollte man wenigstens vor den Gefahren der Online-Sucht warnen wie vor dem Rauchen?
Hilfreich wäre auf jeden Fall, mehr Transparenz über die Nutzungsintensität der Apps zu schaffen – für die Erziehungsberechtigten und die Kinder. Von Gamern weiß ich, dass sie ihre eigenen Online-Zeiten stark unterschätzen.

War das bei Einführung des Fernsehens nicht genauso?
Die Herausforderung für die Familien ist ähnlich: die Steuerung der Verwendung des Zeit- und Aufmerksamkeitsbudgets der Kinder und Jugendlichen. Heute ist es schwieriger, weil das Smartphone immer und überall verfügbar ist. Es ist immer eine App da, mit der ich irgendwas tun kann. Diese Art, Zeit totzuschlagen, ist im Design der Geräte und der Betriebssysteme angelegt.

Der Online-Sog gehört zum Geschäftsmodell?
Ja. Unsere Gesellschaft hat sich darauf geeinigt, dass die vielfach sehr nützlichen oder unterhaltsamen Dienste zunächst mal kostenlos sind. Aber die Anbieter müssen ja irgendwie Geld verdienen, und deshalb nehmen es die Konsumenten in Kauf, dass ihr Nutzungsverhalten analysiert und auch beeinflusst wird.

Wie sieht die digital kompetente Gesellschaft der Zukunft aus? Werden wir die Geräte dauerhaft nutzen, weil sie ins Hirn eingebaut sind, oder gar nicht mehr?
Ich glaube, weder noch. Idealerweise nutzen die Menschen die Technik bewusst, reflektiert und kreativ. Die andere Seite der Medaille ist ja das ungeheure Kreativpotenzial des Einzelnen, das er in einem Maß zur Geltung bringen kann wie nie zuvor. Wie jemand auf Youtube hochgespült werden kann, das hat ein unvergleichliches Potenzial an Emanzipation und Stärkung. Das kann aber genauso genutzt werden als Mittel der Verängstigung, der Manipulation oder zur mehr oder weniger subtilen gesellschaftlichen Steuerung.

Am Samstag gingen in Deutschland Zehntausende gegen die EU-Urheberrechtsreform auf die Straße.
Am Samstag gingen in Deutschland Zehntausende gegen die EU-Urheberrechtsreform auf die Straße.Foto: Paul Zinken/dpa

Wenn alle von Geburt an gefilmt, gepostet und geliked werden, häuft sich ein ungeheurer personalisierter Datenschatz an – inklusive aller Fehltritte und Jugendsünden. Facebook will den Datenschutz verbessern, durch eine Verschiebung vom Öffentlichen ins Private. Mark Zuckerberg spricht von „einfachen, intimen“ Plattformen, auf denen man die volle Kontrolle über seine Daten haben soll. Der größte Datenhändler will Datenschützer werden: Ist das glaubwürdig?
Es ist eher ein Anzeichen dafür, wie relevant die Themen der digitalen Kontrolle geworden sind. Und vielleicht auch dafür, wie stark der Druck auf die großen Plattformen inzwischen ist. Sie sind in eine Sphäre vorgestoßen, in der sie auf sehr schlagkräftige legislative und exekutive Gegner stoßen. Da überlegt man es sich als Unternehmen vermutlich, ob man kämpft oder sich lieber mit dem Gegner verbündet. Im Falle des Netzwerkdurchsetzungsgesetzes hat Facebook zunächst mal die Niederlage hingenommen.

Es gibt zwar offiziell ein Recht auf Löschung – aber wie kann man kontrollieren, ob das wirklich getan wird?
Das können Sie nicht. Weder bei den Firmen noch beim Staat. Der Staat sichert sich ein legales Zugriffsrecht auf fast alle Datentransfers. Der BND hat am weltgrößten digitalen Internet-Knotenpunkt in Frankfurt nahezu unbegrenztes Zugriffsrecht. Durch solche Knotenpunkte fließt unser kompletter Datenverkehr.

Sind die Internet-Befugnisse der Sicherheitsbehörden eine Gefahr für die Demokratie?
Ja. Der Einzelne muss vor dem Staat geschützt werden. Aus der Erfahrung des Absolutismus wissen wir, dass die Gewaltenteilung der Weg dazu ist. Seither kontrollieren sich die Gewalten gegenseitig. Voraussetzung für die Kontrolle ist die Trennung der Informationen – ein Informationsaustausch erfolgt nur in geregelten und meistens transparenten Prozessen. Genau das ist das erste, was totalitäre Staaten abschaffen. Das war auch bei den Nazis so. Nach dem Krieg haben die USA daher verordnet, dass es nie wieder eine geheime Staatspolizei in Deutschland mit Zugriff auf alle Informationsquellen des Staates geben darf. Diese Grenzen zwischen den Gewalten sind nun in Gefahr.

Wenn Daten Macht sind, sind Informatiker die heimlichen neuen Weltherrscher?
Nein. Aber Informatiker stellen Herrschaftsinstrumente her. Man kann IT in zwei Bereiche gliedern: Entwickler und Administratoren. In der Administration hat man es direkt mit sensiblen Daten zu tun, ein Beispiel war Snowden. Die Entwickler, die programmieren und implementieren, haben wiederum eine immense Gestaltungsmacht. Etwa wenn man am neuen Relevanzcode von Google arbeitet oder an der Timeline von Facebook oder an Themen wie Sprach- oder Gesichtserkennung.

Sind sich die Informatiker ihrer Verantwortung bewusst?
Ich hoffe. Es gibt viel mehr nachdenkliche Menschen in meiner Branche, als man denkt. Manche interessiert es aber auch gar nicht, weil sie einfach in die Schönheit ihrer Algorithmen verliebt sind. Das ist nicht verwerflich, spielt aber ihren Auftraggebern in die Karten.

Zu Beginn diente das Internet der reinen Kommunikation. Wie ist es zu einem Werkzeug der Nutzermanipulation geworden?
Das Internet als Netz der Netze, wie es vor 50 Jahren konzipiert wurde, gibt es immer noch. Es ist die rein technische Ebene, auf der potentiell alle Arten von technischer Kommunikation miteinander verbunden werden. Die verhält sich auf der Ebene des Inhalts neutral, sie leitet die eingespeisten Informationen nur weiter. Mit der Entwicklung der Suchmaschinen war das Netz nicht mehr neutral. Bei Amazon oder Google sieht nicht mehr jeder den gleichen Inhalt, wenn er denselben Suchbegriff eingibt, durch die sogenannte Personalisierung. Mit der Einführung der Apps vor etwa zehn Jahren wurde es noch ganz anders. Nun greift das Netz aktiv nach der Aufmerksamkeit seiner Nutzer.

Wie tut es das?
Der Nutzer muss nicht mehr selbst aktiv entscheiden, dass er seine Mail checkt oder eine neue Gamerunde spielen will, sondern wird von diesen Diensten aktiv aufgefordert, dies zu tun. Sie ermahnen ihn „Sie haben fünf neue Nachrichten“ oder „Deine Freunde sind schon online! Spiel mit!“ Diese Push-Nachrichten stupsen die User an, sich mit der Maschine zu beschäftigen.

Wie genau schaffen es die Apps, uns damit nicht zu nerven, sondern immer wieder erfolgreich zu locken?
Am Anfang steht die Datenerhebung. Ein Teil des Erfolgsgeheimnisses der Apps ist die wissenschaftlich rigorose Analyse der Nutzungsdaten. Die Klassifikation von Millionen Daten, zum Beispiel weil 50 000 User sich bei Zuspielung einer bestimmten Information ähnlich verhalten: Sie, ich und jeder andere User wird so tausendfach klassifiziert und gruppiert. Nach solchen Gemeinsamkeiten in den Daten suchen die Algorithmen ständig.

Und was macht die Maschine damit?
Sie kann auf dieser Grundlage eigene Schlüsse ziehen: User, die dieses angeklickt haben, werden vermutlich als nächstes jenes anklicken. Das folgt den Gesetzen der Wahrscheinlichkeitsrechnung. Die Maschine lernt, aus dem bisherigen Verhalten des Users dessen künftiges vorherzusagen. Sie reagiert darauf mit Informationsangeboten, die ihn in letzter Konsequenz dazu bringen sollen, sich so zu verhalten, dass der Profit der App maximiert wird.

Sind Menschen in diesen Prozess eingebunden?
Nein. Twitter hat rund 320 Millionen Nutzer, aber nur knapp 4000 Mitarbeiter. Die können sich nicht Milliarden Nachrichten anschauen. Selbst wenn man die Firmen zur Offenlegung des Prozesses zwänge, bekäme man nur einen leeren Algorithmus. Wie und warum der in bestimmten Situationen so entscheidet, wie er das tut, können nicht einmal seine Programmierer nachvollziehen. Weil ihnen die Milliarden Daten fehlen, mit denen er sich selbst trainiert hat.

Weiß die Maschine wenigstens selbst, was sie tut?
Nein, die weiß gar nichts.

Die viel besungene KI ist nur eine blöde Maschine ohne Erkenntnis?
Künstliche Intelligenz ist simulierte Intelligenz. Die Entscheidungen leitet sie aus der Summe früherer Entscheidungen ab. Wir Informatiker füttern sie dazu am Anfang mit Trainingsdaten, da kann ich die ersten Entscheidungen noch überprüfen. Wenn ich den Algorithmus ins echte Leben entlasse, lernt er mit echten Daten weiter und die Zahl der Entscheidungen vervielfacht sich, sodass man ihre Prämissen nicht mehr sinnvoll nachvollziehen kann. Dieses Problem haben die Naturwissenschaften schon lange mit der KI.

Auch in der Berufswelt übernehmen Algorithmen zunehmend die Chefrolle. Bei vielen Fahr- und Lieferdiensten geben sie per App vor, was die Fahrer bis wann zu tun haben. Wer das nicht schafft, fällt im Score und hat dann etwa bei der Dienstplanung Nachteile. Ist das gut, weil objektive Leistungskriterien angewandt werden? Oder geht hier Menschlichkeit verloren?
Hier folgt die technische Gestaltung einem Menschenbild, das ich persönlich nicht gut finde. Es macht den Menschen zum bloßen Objekt von wirtschaftlichen Interessen, das sich undurchschaubaren Mechanismen unterwirft. Ob wir das zulassen oder nicht, wie wir mit dieser technologischen Möglichkeit umgehen, ist eine Frage der gesellschaftlichen Verhandlung.

Was muss da verhandelt werden?
Die Gesetzgebung muss regeln, ob sie solch pseudoselbstständige und scoringbasierte Arbeitsverhältnisse wie bei Uber zulässt. Diese Technologien helfen dabei, Sachen effektiver zu machen – zum Guten und zum Schlechten. Wir müssen unsere Naivität ablegen und erkennen, dass die Digitalisierung unserer Gesellschaft nicht etwas ist, das irgendwann in Zukunft kommen wird. Sondern dass sie uns heute bereits umgibt, auch wenn wir weder Computer noch Smartphone nutzen. Daher ist heute die Digitalpolitik das Feld, in dem wir die Freiheit gewinnen müssen.

Und was kann man selbst konkret tun?
Mehr Bücher lesen – auch gerne online. Das ist das Beste, was man für das selbstbestimmte Denken tun kann.

Hintergründe und Expertisen zu aktuellen Diskussionen: Tagesspiegel Causa, das Debattenmagazin des Tagesspiegels.

Hier geht es zu Tagesspiegel Causa!