Dobrindt will Palantir für BKA und Bundespolizei: „Das darf niemals zugelassen werden“, sagt der Koalitionspartner

Wie sollen Bundespolizei und Bundeskriminalamt künftig Künstliche Intelligenz nutzen? Diese Frage beschäftigt derzeit die Koalition. Ein Vorstoß des CSU-geführten Bundesinnenministeriums, der deutlich mehr Befugnisse für die Beamten enthielt, stand eigentlich für kommende Woche zur Abstimmung auf der Tagesordnung des Kabinetts – und wurde dann erneut verschoben.

Kern des Entwurfs, der Ende Juli von netzpolitik.org veröffentlicht wurde, ist die Erstellung einer umfassenden Datenbank, welche für die automatisierte Suche von Personen im Netz genutzt werden soll. Konkret bedeutet das: Jedes Foto oder Video auf Social Media, jede Sprachnachricht, die öffentlich zugänglich ist, kann nach biometrischen Merkmalen einer Zielperson durchsucht werden, die in der Datenbank gespeichert sind. Außerdem sollen selbstlernende Systeme die Polizeiarbeit unterstützen.

In beiden Fällen ist eine Weitergabe von Daten an Dritte erlaubt – ein Türöffner für die Zusammenarbeit mit umstrittenen Unternehmen wie Pimeyes oder Palantir.

„Die Bedrohung durch terroristische und kriminelle Strukturen erfordert den Einsatz technologischer Instrumente – auch Künstlicher Intelligenz“, schreibt das BMI in dem Papier. Die Gewerkschaft der Polizei (GdP) begrüßt den Entwurf. „Der Bundesinnenminister hat den Herbst der Sicherheit angekündigt und macht jetzt Ernst“, schreibt der Bundesvorsitzende Jochen Kopelke auf Anfrage des Tagesspiegels.

Massive Kritik an dem Vorstoß kommt aus der Zivilgesellschaft – und vom Koalitionspartner, der SPD. „Es darf niemals zugelassen werden, dass Software wie die von Palantir mit sensiblen staatlichen Daten gefüttert wird“, schreibt Johannes Schätzl, Berichterstatter der SPD-Fraktion zu Überwachungsinstrumenten im Innenausschuss, gegenüber dem Tagesspiegel. „Ein zustimmungsfähiger Gesetzentwurf muss aus meiner Sicht daher dringend sicherstellen, dass nur wirklich vertrauenswürdige Anbieter zum Einsatz kommen – und dass Firmen wie Palantir ausdrücklich ausgeschlossen sind.“

Rechtliche Bedenken an dem Entwurf hat Kilian Vieth-Ditlmann von der NGO AlgorithmWatch. Denn die Erstellung von Datenbanken zur biometrischen Gesichtserkennung werde in der EU durch die KI-Vereinbarung verboten. Bekannte Dienstleister wie Pimeyes hätten deswegen auch ihren Firmensitz auf den Seychellen oder in Dubai. „Es wäre ein Skandal, wenn die Polizei biometrische Daten außerhalb der EU analysieren lässt und so eine in Europa klar verbotene Dienstleistung in Anspruch nimmt“, sagt Vieth-Ditlmann.

Ähnlich sieht das Lukas Benner, Obmann der Grünen im Innenausschuss. „Es bleibt weiterhin vollkommen unklar, wie die Bundesregierung den biometrischen Abgleich mit Daten aus dem Internet grund- und europarechtskonform umsetzen will“, schreibt Benner auf Anfrage vom Tagesspiegel Background in Bezug auf den im Juni veröffentlichten Entwurf.

Diese Fragen seien im Rahmen des ersten Sicherheitspakets der Ampel bereits intensiv erörtert worden – auch im Rahmen von Anhörungen. Doch weder BMI noch BKA hätten sie beantworten können.

Auch Benner sagt: Die KI-Verordnung der EU verbiete es ausdrücklich, auf KI-Systeme zurückzugreifen, die ungezielt Gesichtsbilder aus dem Internet auslesen, um damit Datenbanken aufzubauen. Doch ohne eine solche verbotene Datenbank wäre die „biometrische Rasterfahndung“ für deutsche Behörden technisch nicht möglich, schreibt der Obmann im Innenausschuss.

„Dass deutsche Behörden zu Kunden dieser kommerziellen Anbieter mit Sitz in Dubai oder Belize werden, muss ausgeschlossen werden – auch mit Blick auf alle Verständigungen, die deutsche und europäische digitale Souveränität zu stärken.“

Franziska Görlitz von der Gesellschaft für Freiheitsrechte (GFF) kritisiert auch die algorithmische Verarbeitung der Daten. Die Nutzung von Datenanalysen bei der Polizeiarbeit berge die Gefahr, dass oft nicht klar sei, wie genau die Software zu ihrer Einschätzung komme.

„Fehler oder ein Bias von Algorithmen kann dazu führen, dass Unbeteiligte ins Visier der Polizei geraten“, sagt Görlitz. Bei der Auslagerung der Analyse an Dritte kommen weitere Probleme hinzu. „Bei Unternehmen wie Palantir ist der Quellcode nicht öffentlich zugänglich. Das heißt: Wir können nicht überprüfen, wie diese Software die Polizeiarbeit steuert.“

Die GFF warnt außerdem vor Lock-in-Effekten. Denn wenn Bund und Länder in teure, externe Software investieren, ist es unwahrscheinlich, dass gleichzeitig an Alternativen geforscht wird. „Wir machen uns dadurch extrem abhängig“, sagt Görlitz. Aktuell werde Gotham, die Anwendung von Palantir, laut offiziellen Aussagen nur lokal auf Servern der Polizei betrieben, nicht bei Palantir selbst, sagt Görlitz.

„Aber was, wenn Palantir die Nutzungsbedingungen ändert, zum Beispiel in Bezug auf die Zugriffsmöglichkeiten auf diese lokal gespeicherten polizeilichen Daten? Dann befindet sich der Staat in einer sehr schwachen Verhandlungsposition.“ Die GFF beobachte das Gesetzgebungsverfahren, sagt Görlitz – und „prüfe Verfassungsbeschwerden“.