MEDIA Lab : Wider eine Diktatur der Wahrscheinlichkeit

Die Art, wie unsere Daten kombiniert und interpretiert werden, kann Folgen ungeahnten Ausmaßes haben. Davor zu warnen, ist auch eine Aufgabe des Journalismus.

Marlis Prinzing
In Chicago lässt die Polizei per Computer Punktwerte für Personen errechnen, die möglicherweise zu Straftätern werden könnten. Die Folgen zeigt der Dokumentarfilm „PreCrime“.
In Chicago lässt die Polizei per Computer Punktwerte für Personen errechnen, die möglicherweise zu Straftätern werden könnten. Die...Foto: promo

Keine Weiterbildung? Kein Kredit? Sie werden als labiler Charakter taxiert und deshalb von einer Beförderung ausgeschlossen? Wie wir eingeschätzt werden, beruht zunehmend auf der Interpretation von Statistik. Die Wahrscheinlichkeit, mit der wir handeln, entscheidet über unser Leben, und zwar auf der Basis von Daten über uns, die Datenanalysten kombinieren und anhand von Mustern interpretieren, die mit Hilfe von Algorithmen gebildet werden. Wir haben Folgen auszuhalten für mögliche Handlungen, bei denen gar nicht gewiss ist, ob wir sie je ausführen, und für Vermutungen, denen wir kaum widersprechen können, die teils weder nachvollziehbar noch richtig sind, weil korrelierende Daten interpretiert werden, als seien die einen Daten der Grund für die anderen. Zu dieser ethischen Herausforderung kommt eine rechtliche. Denn all dies betrifft das Menschenrecht auf Privatheit.

Sandra Wachter und Brent Mittelstadt forschen am Oxford Internet Institut zu Datenethik und Datenschutzgesetzgebung. Sie verlangen eine Rechenschaftspflicht über Algorithmen durch Gesetze und durch Transparenz. Den Algorithmus nur offenzulegen sei wenig nützlich. Aber man könne eine Erläuterung verlangen, welche Datenbasis und welche Gründe zu einem bestimmten Entscheidungsmuster führten, und den Prozess im Falle unerwünschter Schlüsse verbessern. Die europäische Datenschutzgrundverordnung müsse über die Datenerhebung hinaus auch die Datenkombinationen sowie die Rückschlüsse daraus als personenbezogene Daten auffassen und regulieren, sodass wir uns gegen ein fehlerhaftes Bild wehren können.

Hier muss Journalismus als Aufklärungsinstanz einsetzen: Er sollte diese Forderung unterstützen. Und er sollte dem Publikum nahebringen, dass heute statisches Grundwissen eine Kulturtechnik wie Lesen und Schreiben geworden ist, die uns ermächtigt, die Vor- und Nachteile der Automatisierung zu erkennen.

Sandra Wachter, Brent Mittelstadt, Brent, Chris Russell (2018): Counterfactual Explanations without Opening the Black box: Automated Decisions and the GDPR. In Harvard Journal of Law & Technology, Volume 31, Number 2 . Spring 2018. https://jolt.law.harvard.edu/assets/articlePDFs/v31/Counterfactual-Explanations-without-Opening-the-Black-Box-Sandra-Wachter-et-al.pdf

Sandra Wachter, Brent Mittelstadt (2018): A Right to Reasonable Inferences: Re-Thinking Data Protection Law in the Age of Big Data and AI. Columbia Business Law Review, https://papers.ssrn.com/sol3/papers.cfm?abstract_id=3248829

5 Kommentare

Neuester Kommentar
      Kommentar schreiben