Wer ein besonderes Interesse an den Daten hat und wie gut Algorithmen sind

Seite 2 von 2
Regierungsberater Gerd Gigerenzer : "Wir sind längst auf dem Weg in den Überwachungsstaat"
Professor Gerd Gigerenzer berät die Bundesregierung in Verbraucherschutzfragen.
Professor Gerd Gigerenzer berät die Bundesregierung in Verbraucherschutzfragen.Foto: Georg Moritz

Ganz konkret: Wer müsste was tun?

Der Sachverständigenrat für Verbraucherfragen arbeitet derzeit an dem Projekt Verbraucher-Scoring. Wir werden Ende des Jahres ein Gutachten vorlegen und möchten damit größeres Bewusstsein und Aufmerksamkeit erzeugen. In China ist es so, dass die meisten Menschen von dem Programm noch gar nichts gehört haben. Und diejenigen, die davon gehört haben, finden es eher gut. Sie begrüßen es, dass sie über jeden, der an die Tür klopft, oder jeden neuen Kollegen mithilfe des Scorewertes Bescheid wissen. Auch Frauen, die auf Partnersuche sind, können gleich sehen, wie vertrauenswürdig ein Mann ist. Die Scores sollen in China öffentlich sein, nicht verdeckt wie bei unserer Schufa. Ich glaube, dass es auch in Deutschland eine Gruppe geben wird, die für den digital gläsernen Menschen und ein solches Programm der Überwachung sein wird.

Wer wird das sein?

Dazu gehören einige große Internetunternehmen. Eric Schmidt, Ex-Chef von Google, predigt die Vision der voller Transparenz und meint, wenn jemand etwas zu verbergen hat, dann soll er es besser gar nicht erst tun. Ich sehe da eine erstaunliche Übereinstimmung zwischen Schmidt und der chinesischen Regierung – und auch in China arbeitet Baidu, das Äquivalent von Google, am Sozialen-Kredit-Score Programm mit. In Deutschland stehen wir vor zwei Fragen: Soll man das Scoring im Bereich Finanzen, Gesundheit, Kriminalität, Vermietung, Versandhandel und so weiter einfach so weiter laufen lassen? Und falls man das mit ja beantwortet, ist die nächste Frage: Soll man es zulassen, dass diese verschiedenen Datenbanken zusammengeführt werden um einen Gesamt-Score für jeden Bürger zu ermitteln?

Was meinen Sie: Sind Sie dafür, schon bei der Datensammlung einzuschreiten? Etwa mit gesetzlichen Verboten?

Ja. Viele dieser Datensammlungen sind nutzlos und die Behauptung, dass sie das Verhalten von Menschen zuverlässig vorhersagen können, ist oft irreführende Werbung.

Die Algorithmen stimmen nicht?

So ist es. In den USA wird etwa seit Anfang dieses Jahrhunderts ein Algorithmus namens COMPAS eingesetzt, mit dem bereits mehr als eine Million Angeklagte bewertet worden sind. COMPAS soll die Frage beantworten, wie hoch die Wahrscheinlichkeit ist, dass ein Angeklagter innerhalb der nächsten zwei Jahre eine Straftat begeht. Der Algorithmus analysiert dazu die Antworten jedes Angeklagten auf 137 Fragen und dessen kriminelle Vorgeschichte. Wie der Wert berechnet wird, versteht weder der Angeklagte noch der Richter. Der Algorithmus ist ein Geschäftsgeheimnis. Doch wird der Wert von Richtern benutzt.

Und wie gut ist der Algorithmus?

Eine Studie von 2018 hat gezeigt, dass COMPAS nicht besser ist als ganz normale Menschen die keinerlei Erfahrung mit der Vorhersage von Straftaten haben. Diese Menschen wurden zufällig im Internet rekrutiert und erhielten lediglich einen Dollar Bezahlung für insgesamt 50 Vorhersagen und fünf Dollar Bonus falls mehr als 65 Prozent der Vorhersagen richtig waren. Es ist schon erstaunlich, wie naiv staatliche Organisationen und Teile unserer Gesellschaft auf Big Data vertrauen und teures Geld für nutzlose Algorithmen ausgeben, die sie noch dazu nicht verstehen. Wir finden das in unserer Forschung immer wieder: Weniger ist oft mehr.

Wie oft lag das Programm falsch?

In 35 Prozent der Fälle. Es ist tragisch, wenn jemandes Leben zerstört wird, nur weil andere blind in einen kommerziellen Algorithmus vertrauen.

Dabei investieren Staaten und Unternehmen Milliarden in die Entwicklung derartiger Computerprogramme. Ist das rausgeschmissenes Geld?

Die künstliche Intelligenz wird überschätzt. Sie funktioniert bei Spielen wie Schach oder Go, oder anderen wohldefinierten Situationen. Aber bei Vorhersagen in der wirklichen Welt, in der es Ungewissheiten gibt, sieht das anders aus. Ich erinnere an „Google Flu Trends“, ein Programm, mit dem Google die Verbreitung von Grippe vorhersagen wollte. Das Programm wurde 2009 mit Fanfaren angekündigt, die Vorhersagen sind jedoch gescheitert, und das Programm wurde schließlich still beerdigt. Wir sind dabei, Milliarden in digitale Technik zu investieren. Wir sollten jedoch ebenso viel in digitale Bildung investieren, damit Menschen verstehen, was Algorithmen wirklich können und nicht können. Wir sollten nicht einfach zusehen, wie sie dazu verwendet werden, unsere Psyche und unser soziales Leben zu verändern. Wir sollten die Fernsteuerung für unser Leben wieder selbst in die Hand nehmen.

Gerd Gigerenzer (70) ist einer der profiliertesten Psychologen Deutschlands. Der Professor war lange Direktor am Max-Planck-Institut für Bildungsforschung in Berlin und leitet dort jetzt noch das Harding-Zentrum für Risikokompetenz. In zahlreichen Studien und Büchern beschäftigt sich Gigerenzer vor allem mit der Frage, wie Menschen Entscheidungen fällen, was sie dabei beeinflusst und hält „Bauchentscheidungen“ für keine schlechte Sache. Gigerenzer sitzt im Sachverständigenrat für Verbraucherfragen im Bundesjustizministerium, der das Ministerium in verbraucherpolitischen Fragen berät.

Artikel auf einer Seite lesen
Mehr lesen? Jetzt E-Paper gratis testen!

25 Kommentare

Neuester Kommentar
      Kommentar schreiben