Weißbuch zu Künstlicher Intelligenz: EU-Kommission erwägt Regulierung von Gesichtserkennung

Die EU-Kommission erwägt Maßnahmen zur Verhängung eines vorübergehenden Verbots von Gesichtserkennungstechnologien, die sowohl von öffentlichen als auch privaten Akteuren eingesetzt werden. Das geht aus dem Entwurf eines Weißbuchs über Künstliche Intelligenz (KI) hervor, der von EurActiv eingesehen wurde.

Die Pläne könnten, wenn sie umgesetzt werden, die laufenden KI-Projekte in einigen EU-Ländern aus der Bahn werfen. Das könnte auch für Deutschlands Wunsch gelten, die automatische Gesichtserkennung an 134 Bahnhöfen und 14 Flughäfen einzuführen. Auch Frankreich plant die Schaffung eines rechtlichen Rahmens, der die Einbettung von Videoüberwachungssystemen in Gesichtserkennungstechnologien erlaubt.

Künftiger Rechtsrahmen könnte „zeitlich begrenztes Verbot“ enthalten

In dem Kommissionspapier, das einen Einblick in Vorschläge für ein europäisches Konzept für die künstliche Intelligenz gibt, heißt es, dass ein künftiger Rechtsrahmen „ein zeitlich begrenztes Verbot des Einsatzes von Gesichtserkennungstechnologie in öffentlichen Räumen enthalten könnte“.

Das Dokument fügt hinzu, dass „der Einsatz von Gesichtserkennungstechnologie durch private oder öffentliche Akteure im öffentlichen Raum für einen bestimmten Zeitraum (zum Beispiel drei bis fünf Jahre) verboten wäre, in dem eine solide Methodik zur Bewertung der Auswirkungen dieser Technologie und mögliche Risikomanagementmaßnahmen ermittelt und entwickelt werden könnten“.

Fünf regulatorische Optionen für Künstliche Intelligenz

Ganz allgemein enthält der Entwurf des Weißbuchs, dessen fertige Fassung die Kommission gegen Ende Februar veröffentlichen soll, fünf Regelungsoptionen für die künstliche Intelligenz in der gesamten EU. Die verschiedenen Regulierungsbereiche, die die Kommission in dem Papier berücksichtigt, sind:

- Freiwillige Kennzeichnung - Sektorale Anforderungen an die öffentliche Verwaltung und Gesichtserkennung - Obligatorische risikobasierte Anforderungen für Anwendungen mit hohem Risiko - Sicherheit und Haftung - Verwaltung

Ein Rahmen für die freiwillige Kennzeichnung könnte aus einem Rechtsinstrument bestehen, mit dem die Entwickler „auf freiwilliger Basis die Anforderungen an eine ethische und vertrauenswürdige Künstliche Intelligenz erfüllen können“. Sollte die Einhaltung der Vorschriften in diesem Bereich gewährleistet sein, würde ein „Etikett“ ethischer oder vertrauenswürdiger künstlicher Intelligenz mit verbindlichen Bedingungen vergeben werden.

[Erschienen bei EurActiv. Das europapolitische Onlinemagazin EurActiv und der Tagesspiegel kooperieren miteinander. Bearbeitet von Zoran Radosavljevic und Britta Weppner. Übersetzung: Britta Weppner.]

Option zwei konzentriert sich auf einen spezifischen Bereich von öffentlichem Interesse – die Nutzung künstlicher Intelligenz durch Behörden – sowie auf den Einsatz von Gesichtserkennungstechnologien im Allgemeinen. Im ersteren Bereich könnte die EU dem Papier zufolge einen Ansatz verfolgen, der mit dem von Kanada in seiner Richtlinie über die automatische Entscheidungsfindung vertretenen Ansatz vergleichbar ist. Dort werden Mindeststandards für Regierungsstellen festlegt, die ein automatisiertes Entscheidungssystem einsetzen wollen.

Was die Gesichtserkennung betrifft, so hebt das Kommissionsdokument Bestimmungen aus der allgemeinen Datenschutzverordnung der EU hervor, die den Bürgern „das Recht geben, nicht Gegenstand einer Entscheidung zu sein, die ausschließlich auf einer automatisierten Verarbeitung, einschließlich der Erstellung von Profilen, beruht“.

In dem dritten Bereich, den die Kommission derzeit für eine Regulierung vorbereitet, würden rechtsverbindliche Instrumente nur „für risikoreiche Anwendungen künstlicher Intelligenz“ gelten. In dem Papier heißt es: „Dieser risikobasierte Ansatz würde sich auf Bereiche konzentrieren, in denen die Öffentlichkeit gefährdet ist oder ein wichtiges rechtliches Interesse auf dem Spiel steht“.

Bestimmte Sektoren, die als hohes Risiko betrachtet werden könnten, sind laut dem Dokument das Gesundheitswesen, der Verkehr, die Polizei und die Justiz. Die Kommission fügt hinzu, dass ein Antrag, um als „risikoreich“ eingestuft zu werden, eines von zwei Kriterien erfüllen muss: Er muss in den Anwendungsbereich eines Hochrisikosektors fallen oder potenzielle rechtliche Auswirkungen haben und „die Gefahr von Verletzungen, Tod oder erheblichen materiellen Schäden für den Einzelnen“ darstellen.

Option vier deckt Sicherheits- und Haftungsfragen ab, die sich im Rahmen der künftigen Entwicklung der Künstlichen Intelligenz ergeben könnten, und schlägt vor, dass „gezielte Änderungen“ an den Sicherheits- und Haftungsvorschriften der EU vorgenommen werden könnten, unter anderem an der Richtlinie über die allgemeine Produktsicherheit, der Maschinenrichtlinie, der Richtlinie über Funkanlagen und der Produkthaftungsrichtlinie.

Zu den Risiken, die derzeit in den bestehenden Rechtsvorschriften nicht abgedeckt sind, so das Dokument, gehören „die Risiken von Cyber-Bedrohungen, die Gefährdung der persönlichen Sicherheit, der Privatsphäre und des Schutzes personenbezogener Daten“, die als Teil möglicher künftiger Änderungen in Betracht gezogen werden können.

Was die Haftung betrifft, so könnten „Anpassungen erforderlich sein, um die Verantwortung der Entwickler künstlicher Intelligenz zu klären und sie von der Verantwortung des Herstellers der Produkte zu unterscheiden“. Der Geltungsbereich der Rechtsvorschriften könnte dahingehend auch geändert werden, dass festgelegt wird, ob Systeme künstlicher Intelligenz als „Produkte“ zu betrachten sind.

In Bezug auf Option fünf, „Verwaltung“, betont die Kommission, dass ein wirksames Durchsetzungssystem von wesentlicher Bedeutung ist, welches ein starkes System der öffentlichen Aufsicht unter Einbeziehung der nationalen Behörden erfordert. Die Förderung der Zusammenarbeit zwischen diesen nationalen Behörden wäre notwendig, heißt es in dem Dokument.

Die wahrscheinlichsten Ansätze, die formell angenommen werden, sind eine Kombination der Optionen drei, vier und fünf. „Die Kommission könnte eine Kombination aus einem horizontalen Instrument in Betracht ziehen, das die Anforderungen an Transparenz und Rechenschaftspflicht festlegt und auch den Governance-Rahmen abdeckt, ergänzt durch gezielte Änderungen der bestehenden EU-Rechtsvorschriften im Bereich Sicherheit und Haftung“, heißt es in dem Dokument.

Samuel Stolton