Nutzung personenbezogener Daten: Deutsche Datenschützer starten Verfahren gegen ChatGPT

Behörden in Deutschland wollen den Einsatz von Künstlicher Intelligenz (KI) klarer regeln und bringen auch ein Verbot der Sprachanwendung ChatGPT ins Spiel. „Wenn personenbezogene Daten verwendet werden, auch als Trainingsdaten für die KI, dann bedarf es einer Rechtsgrundlage“, sagte der Leiter der KI-Taskforce der Bundesländer, Dieter Kugelmann, dem Tagesspiegel Background. „Wir müssen wissen, wo die Daten herkommen.“

Wenn solch eine Rechtsgrundlage fehle, sei ein Betrieb wie bisher nicht möglich. Dann drohe ein Verbot für den Chatbot. ChatGPT kann Texte erzeugen und Bilder generieren. Kritiker fürchten, dass die Technik zum Beispiel für die Verbreitung von Falschinformationen missbraucht werden könnte.

Kugelmann verlangte, dass der Betreiber Open AI die Sprachanwendung genauer steuern müsse, um sie rechtskonform anbieten zu können. Zu diesem Zweck haben seine Kollegen aus den Bundesländern und er ein Verwaltungsverfahren gegen Open AI eröffnet. „Wir haben ein gemeinsames Musterschreiben mit Fragen an Open AI aufgesetzt, das die meisten Landesdatenschützer noch diese Woche an den Konzern senden werden“, erklärte der Leiter der Taskforce.

Die Antworten sollen dann ausgewertet und das Vorgehen weiter koordiniert werden. In Deutschland sind die unabhängigen Datenschützer der Länder für privatwirtschaftliche Unternehmen wie Open AI und deren Produkte zuständig. Die KI-Taskforce der Datenschutzkonferenz hatte sich dem Thema ChatGPT angenommen.

Verbot und Bußgelddrohung für ChatGPT in Italien

In Italien hatte die Datenschutzbehörde erst Ende März ein Verbot sowie eine Bußgelddrohung von bis zu 20 Millionen Euro für ChatGPT verhängt. Der Vorwurf: Es fehle an einer Rechtsgrundlage für das massenhafte Sammeln und das Speichern der Nutzerdaten ebenso wie an Jugendschutzmaßnahmen – etwa einer effektiven Alterskontrolle für Minderjährige.

Kugelmann, der gemeinsam mit dem Bundesdatenschutzbeauftragten Ulrich Kelber und weiteren Landesdatenschützern auch Mitglied der gerade erst einberufenen ChatGPT-Taskforce des Europäischen Datenschutzausschusses ist, hält das Vorgehen der italienischen Behörde gegenüber ChatGPT für „riskant und rein rechtlich auf wackeligen Beinen“, da nicht ausreichend Informationen über die Funktionsweise von ChatGPT vorliegen würden. „Das breitflächige Ausrollen der KI im Blindflug – ohne rechtliche Grundlage – das ist das Hauptproblem“, sagte er.

Eine Regulierung von ChatGPT wird allerdings dadurch erschwert, dass der Betreiber keine Niederlassung in der Europäischen Union (EU) hat.

Bundesdigitalminister Volker Wissing (FDP) sprach sich gegen ein Verbot des Sprachprogramms aus. „Wir sehen grundsätzlich großes Potential in der Verwendung generativer KI“, heißt es aus seinem Ministerium. Gleichzeitig fordere man aber auch einen „angemessenen und soliden Regulierungsrahmen“: Werte wie Demokratie und Transparenz müssten die Leitplanken bei der Entwicklung leistungsstarker, hochmoderner KI-Systeme sein. „Ziel muss es sein, dass die Verhandlungen zur KI-Regulierung auf EU-Ebene noch dieses Jahr abgeschlossen werden.“

Der SPD-Vorsitzende Lars Klingbeil sagte dem Tagesspiegel: „Es ist gut, dass sich die Bundesregierung auf europäischer Ebene für eine Regulierung von KI-Systemen wie ChatGPT einsetzt.“ Künstliche Intelligenz werde „unsere Zukunft positiv verändern“, sagte Klingbeil: „Wir sollten diese Diskussion nicht angstgetrieben führen, sondern schnell für einen klaren Rahmen sorgen, unter anderem mit Transparenzpflichten und einer wirksamen Aufsicht bei der Nutzung von personenbezogenen Daten.“