Digitalisierung: Europäische Union will Künstliche Intelligenz stärker regeln

Nach 38 Stunden ist der Verhandlungsmarathon in Brüssel zu Ende. Kurz vor Mitternacht haben die Unterhändler der EU-Mitgliedstaaten und des Europaparlaments am Freitag ein Regelwerk für den Einsatz von Künstlicher Intelligenz (KI) beschlossen.

Sichtlich erleichtert schrieb EU-Binnenmarktkommissar Thierry Breton auf dem Kurznachrichtendienst X (ehemals Twitter): „Historisch! Die EU wird der allererste Kontinent, der klare Regeln für die Nutzung von KI setzt."

Geregelt wird in der politischen Vereinbarung allerdings nur der Rechtsrahmen, in der Künstliche Intelligenz entwickelt und angewendet werden darf. Komplizierter wird es nun, die genauen technischen Details auszuarbeiten und danach die Umsetzung der Vorgaben zu überwachen.

Der Gesetzgeber muss dabei immer abwägen, welche potenziellen Schadenspotenziale der Einsatz von KI birgt. Ein besonderes Augenmerk wird dabei auf die zentralen Lebensbereiche Gesundheit, Demokratie, Umwelt oder Sicherheit gelegt.

Schwierig wurde die Einigung in Brüssel, weil die Entwicklung von Künstlicher Intelligenz noch ganz am Anfang steht und die Einsatzmöglichkeiten der Technik kaum abzuschätzen sind.

Entsprechend weit auseinander liegen die Positionen der verschiedenen politischen Lager, weshalb auch die Bewertung des Ergebnisses sehr unterschiedlich ausfällt. Die FDP-Europaabgeordnete Svenja Hahn sagt, dass „wir eine massive Überregulierung von KI-Innovation verhindern und rechtsstaatliche Prinzipen beim Einsatz von KI in der Strafverfolgung verankern“ konnten. Sie betont: „Uns ist es gelungen, die biometrische Massenüberwachung zu verhindern.“

Streitpunkt: Biometrische Identifizierungen im öffentlichen Raum

Das ist Patrick Breyer, Europaabgeordneter der Piratenpartei, allerdings zu wenig. Er prophezeit, dass das Gesetz den Weg für die Einführung biometrischer Massenüberwachung in Europa freimache.

Die Möglichkeit der Überwachung der Menschen durch KI-Systeme war einer der zentralen Streitpunkte bei der Ausarbeitung der geplanten Regelung. Viele Europaabgeordnete wollten ein komplettes Verbot, konnten sich allerdings nicht durchsetzen.

Beschlossen wurde nun, dass nur bestimmte Anwendungen untersagt werden, etwa das ungezielte Auslesen von Bildern aus dem Internet oder aus Überwachungsaufnahmen für Gesichtserkennungsdatenbanken.

Mit der umfassenden Regulierung von KI-Basismodellen und KI-Anwendungen gefährdet der AI-Act die Wettbewerbs- und Innovationsfähigkeit sowohl auf Hersteller- als auch auf Anwenderseite.

Iris Plöger, Mitglied der Geschäftsführung beim Bundesverband der Deutschen Industrie (BDI)

In bestimmten Situationen sind allerdings Ausnahmen möglich. Bei der Gefahr eines Terroranschlages sind biometrische Identifizierungen im öffentlichen Raum in Echtzeit erlaubt.

Heftig gestritten wurde auch darum, wie leistungsfähige KI-Systeme mit Daten trainiert werden dürfen. Diese sogenannten Basismodelle sind die Grundlage für viele Anwendungen, wie etwa ChatGPT, mit dem ein Anwender Texte erstellen kann.

Deutschland, Frankreich und Italien hatten gefordert, dass nur konkrete Anwendungen von KI reguliert werden sollten, nicht aber die Basis-Technologie an sich. Nun einigten sich die Unterhändler auf bestimmte Transparenzpflichten für diese Modelle.

An diesem Punkt setzt die Kritik der europäischen Verbraucherschutzorganisation Beuc an. Sie bemängelt, dass sich die EU zu sehr auf den guten Willen der Unternehmen zur Selbstregulierung verlasse. „So werden beispielsweise virtuelle Assistenten oder KI-gesteuerte Spielzeuge nicht ausreichend reguliert, da sie nicht als Hochrisikosysteme gelten. Auch Systeme wie ChatGPT oder Bard werden nicht die notwendigen Leitplanken erhalten, damit die Verbraucher ihnen vertrauen können“, hieß es.

Die Industrie beklagt hingegen, dass ihnen durch die geplanten Regelungen Fesseln angelegt würden und Europa bei der Schlüsseltechnologie KI ins Hintertreffen gerate. „Mit der umfassenden Regulierung von KI-Basismodellen und KI-Anwendungen gefährdet der AI-Act die Wettbewerbs- und Innovationsfähigkeit sowohl auf Hersteller- als auch auf Anwenderseite“, kritisierte Iris Plöger, Mitglied der Geschäftsführung beim Bundesverband der Deutschen Industrie (BDI).

Begrüßt wird das Gesetz hingegen von Bundesverbraucherschutzministerin Steffi Lemke (Grüne). Die neuen Regelungen seien „wichtig, damit wir angesichts der rasanten technologischen Entwicklung Schritt halten können, um die Rechte der Menschen zu schützen", erklärte die Ministerin.