EU-Regeln zu Künstlicher Intelligenz : Wer haftet bei einem Unfall mit KI-gesteuerten Fahrzeugen?

Die EU-Komission will KI regulieren. CDU-Europapolitiker Axel Voss fordert eine Versicherungspflicht für Halter von KI-gesteuerten Fahrzeugen und Drohnen.

Halter autonom fahrender Autos sollen sich versichern müssen.
Halter autonom fahrender Autos sollen sich versichern müssen.Foto: dpa/Arne Dedert

Im Februar hat die Europäische Kommission in ihrem Weißbuch zur Künstlichen Intelligenz (KI) skizziert, welche Regulierung sie sich für die Technologie in Europa vorstellt. Zahlreiche Akteure nehmen derzeit Stellung zu den Plänen, erst kürzlich wurde die Frist für die Konsultation bis zum 14. Juni verlängert. Ursprünglich sollten bis zum vierten Quartal konkrete Gesetzesvorschläge vorliegen. Aufgrund der Corona-Krise wird es jetzt wahrscheinlich doch eher Anfang 2021.

Genug Zeit für die Abgeordneten im Europaparlament, frühzeitig ihre Erwartungen an das Gesetz zu formulieren. Aus diesem Grund gibt es derzeit, wie auch beim Digital Services Act, eine Reihe so genannter Initiativberichte zu den verschiedenen Perspektiven auf das Thema KI – von ethischen Fragen, über den Einsatz in Strafrechtssachen oder im Bildungs- und Kultursektor.

Die Rechtspolitiker im Parlament stellen in der kommenden Woche mehrere Berichte zu zentralen Rechtsfragen wie Haftung, ethischen Standards oder geistigem Eigentum vor. Nach seinem „Digitalen Manifest“, mit dem sich der CDU-Europapolitiker Axel Voss zu Beginn des Jahres zurückgemeldet hatte (Tagesspiegel Background berichtete), hat Voss nun für den Rechtsausschuss seine Idee von einem neuen, einheitlichen zivilrechtlichen Haftungsregime verfasst und will den Bericht heute veröffentlichen.

Aus Voss‘ Sicht geht es dabei nicht nur darum, beim zunehmenden Einsatz von KI mögliche Schäden für alle betroffenen Parteien gering zu halten, beziehungsweise zu versichern, sondern auch darum, einen innovationsfreundlichen Rahmen vorzugeben. Das heißt für ihn, dass die Wirtschaft „Spielraum“ benötigt, um weiterhin neue Technologien, Produkte und Dienstleistungen mit KI entwickeln zu können.

Komplexe, störanfällige Systeme

Voss sieht keine Notwendigkeit, die Haftungsregeln in ihrer Gänze zu novellieren, um den Entwicklungen im Bereich KI gerecht zu werden. Jedoch brauche es punktuelle Anpassungen des Rechts, um bestimmten Eigenschaften von Künstlicher Intelligenz Rechnung zu tragen: KI-Systeme seien komplex, vernetzt und ihre Arbeitsweise für Menschen nicht immer nachvollziehbar.

Sie handelten teilweise autonom und seien gleichzeitig störanfällig. Selbst für die von ihr verursachten Schäden haften können soll KI seiner Ansicht nach allerdings nicht. Von der teilweise diskutierten Schaffung einer Rechtsperson für KI-Systeme (e-Person) sieht Voss in seinem Papier ab. Davon abgeraten hatte zuletzt auch eine Expertengruppe der Kommission.

Hochrisiko-KI muss versichert werden

Nach Voss‘ Vorstellung soll sich die von der Kommission in ihrem Weißbuch anvisierte Unterscheidung von Hoch- und Niedrikrisiko-KI auch in den neuen Haftungsregeln niederschlagen. Sein zentraler Vorschlag: Für diejenigen, die ein Hochrisiko-KI-System „betreiben“ („deploy“), also etwa die Halter eines autonom fahrenden Autos oder einer selbstgesteuerten Drohne, sollte eine Versicherungspflicht bestehen.

Über diese Versicherung soll die geschädigte Person bei einem Unfall Schadensersatz einfordern können. Die Einführung einer solchen Pflichtversicherung, besonders im Verkehrsbereich, war auch eine von vielen Empfehlungen der Expertengruppe der Kommission.

„Zentral ist die Frage, ob der Schaden individualisierbar ist, oder, wie beim Einsatz von KI-Systemen im öffentlichen Raum, eher zufällig den Einzelnen trifft“, sagt Voss im Gespräch mit Tagesspiegel Background. Für ihn sind etwa auch autonome Reinigungsfahrzeuge kritisch, die im öffentlichen Raum potenziell erheblichen Schaden für Leib und Leben anrichten könnten. In einem Annex zum geplanten neuen Gesetz soll die Kommission definieren, welche Art von KI in die entsprechende Kategorie fällt und diese Liste halbjährlich aktualisieren.

Risiken sollten nicht mit öffentlichen Geldern gedeckt werden

Ein technisches Expertengremium soll dabei helfen. Die Risiken sollten grundsätzlich nicht mit öffentlichen Geldern gedeckt werden und die Kommission „im Sinne des Sandboxing-Ansatzes“ einen Markt für solche KI-Policen entstehen lassen. Versicherer könnten dann selbst entscheiden, ob sie neue Policen entwickeln oder bestehende Angebote neu ausrichten, findet Voss.

Die EU-Kommission hatte in ihrem Weißbuch angedeutet, dass sie auch ganz andere Arten von Künstlicher Intelligenz als potenziell sehr schädlich einstuft, etwa KI-gestützte Personalauswahl-Tools. Für Voss würden solche Risiken eher nicht in das vorgeschlagene Haftungsschema passen: „Recruiting-Software, die KI verwendet, würde ich nicht pauschal als Hochrisiko-Anwendung einstufen. Nach unserer Logik müsste man sich als derjenige, der sie einsetzt, deshalb nicht versichern.“

Neben dem auf der Hand liegenden Personenschaden sei aber auch eine Haftung im Falle von Schaden am persönlichen Eigentum denkbar. Für KI, die nicht in die Hochrisiko-Kategorie fällt, soll weiterhin die reguläre Verschuldenshaftung gelten.

Wie realistisch ist eine Verordnung?

Für Voss geht kein Weg daran vorbei, dass das künftige KI-Gesetz eine Verordnung sein muss, die direkt EU-weit Anwendung findet, und keine Richtlinie, die noch umgesetzt werden muss in nationales Recht. Das dürfte kein einfaches Unterfangen werden, weil die Kompetenz für das Zivilrecht grundsätzlich bei den Mitgliedstaaten liegt.

[Alle wichtigen Updates des Tages finden Sie im kostenlosen Tagesspiegel-Newsletter "Fragen des Tages". Dazu die wichtigsten Nachrichten, Leseempfehlungen und Debatten. Zur Anmeldung geht es hier.]

Voss hofft, „dass inzwischen die Erkenntnis gereift ist, dass Europa nur eine Chance hat sich technologisch gegen die USA und China zu behaupten, wenn wir im digitalen Bereich einen echten digitalen Binnenmarkt haben.“ Es sei deshalb „nur vernünftig“, wenn die Mitgliedstaaten diesmal nicht auf ihre Kompetenz im Zivilrecht pochen. „Dann fällt es der Kommission vielleicht leichter, hier von vorn herein auf eine Verordnung zu setzen.“

Produkthaftung ausgeklammert

Eines zentralen Mankos seines Berichts ist sich Voss bewusst. Er hat sich aus Mangel an Zuständigkeit nicht mit dem Produkthaftungsrecht auseinandergesetzt, das die Haftung im Falle eines fehlerhaften Produkts regelt. Der Binnenmarktausschuss hatte die Kommission zuletzt im Februar in einer Resolution aufgefordert, auch bei der Produktsicherheit und der Produkthaftung auf den risikobasierten Ansatz zu setzen.

Der CDU-Politiker hofft jetzt auf eine „sachlich und juristisch betonte“ Diskussion seiner Vorschläge. Aufgrund seiner „Erlebnisse mit dem Urheberrecht“ wollte er sich aus der Debatte um die Plattformregulierung im Rahmen des geplanten Digital Services Act „lieber raushalten – nicht, weil ich dazu nichts beitragen könnte, sondern um die Arbeit daran nicht von vornherein zu belasten, wenn es wieder auf persönliche Attacken und unsachliche Diskussionen hinausläuft“, so Voss. 

Wenn Voss' Bericht voraussichtlich kommende Woche Thema im Ausschuss ist, stehen auch noch drei weitere Berichte auf der Tagesordnung. Der Bericht der spanischen Sozialdemokraten Ibán García Del Blanco zu ethischen Standards für KI, Robotik und verwandte Technologien, der zum geistigen Eigentum von dem französischen Liberalen Stéphane Séjourné (liegt bereits vor) sowie der Bericht eines Front-National-Abgeordneten namens Gilles Lebreton zu relevanten Fragen des internationalen Rechts bei militärischen und zivilen KI-Anwendungen. 

Der neue Morgenlage-Newsletter: Jetzt gratis anmelden!