Der Staatssekretär und der Bot: Als ChatGPT neulich im Ministerium aushalf

Trifft ein Staatssekretär einen Chat-Bot: So hat es sich kürzlich im Bundesministerium für Bildung und Forschung zugetragen. Die Bundestagsabgeordnete Nicole Gohlke (Linkspartei) wollte per Anfrage wissen, ob es schon eine Linie der Bundesregierung zum Umgang mit der selbständig recherchierenden und schreibenden Software ChatGPT in Schulen und Hochschulen gebe. Mit der Beantwortung beauftragte der parlamentarische Staatssekretär Jens Brandenburg: ChatGPT.

© Bundesregierung/Guido Bergmann / Bundesregierung/Guido Bergmann

„Das war eine Steilvorlage“, sagte der FDP-Politiker dem Tagesspiegel. In der Weihnachtspause hatte Brandenburg schon privat mit dem Bot experimentiert, auch im Ministerium war das Thema bereits aufgekommen. Denn die Software zieht gerade viel öffentliches Interesse auf sich.

Sie steht per Chat zum Gespräch bereit und generiert auf Basis Künstlicher Intelligenz Texte aller Art - und zwar in bis dahin nicht dagewesener Qualität. In deutschen Schulen und Universitäten geht seit der Veröffentlichung im November die Sorge um, Hausaufgaben, Seminararbeiten und Ähnliches seien in der bisherigen Form nun obsolet.

Ich war schon erstaunt, wie wenig es zu verbessern gab.

Jens Brandenburg, Staatssekretär

Brandenburgs Antwort auf die Anfrage der Abgeordneten ist mutmaßlich die erste auf diese Art entstandene in einem deutschen Bundesministerium. „Die Bundesregierung hat derzeit keine spezifischen Verständigungen...“: Den Duktus des Behördendeutsch beherrscht ChatGPT ordentlich.

Zeit gespart hat der Einsatz des Bot allerdings nicht. Der gesamte Text ist nur vier Absätze lang, die von Brandenburg und dem Ministeriumsapparat nicht ungeprüft übernommen wurden. Im Dialog mit der Software ließ Brandenburg Inhaltliches korrigieren, griff aber sprachlich nicht ein. „Ich war schon erstaunt, wie wenig es zu verbessern gab“, sagt Brandenburg.

In den Details jedoch lag die Software nicht richtig. Da setzt Brandenburg an und appelliert an Medienkompetenz und digitale Bildung: „Diese Lernerfahrung brauchen auch junge Menschen in den Schulen und Hochschulen. Gerade weil die ChatBots über kurz oder lang ein selbstverständlicher Teil unseres Alltags sein werden.“

Das hält die Bundestagsverwaltung vom Vorgehen

Er vergewisserte sich bei der Bundestagsverwaltung, ob er die Antwort von der KI erstellen lassen kann. Das Ergebnis: Er kann. Rechtlich steht dem Einsatz nichts entgegen, solange das Ergebnis vollständig und wahrheitsgemäß ist.

Der fertige Text ging dann die üblichen Wege der Abstimmung im Ministerium und mit anderen Ressorts. „In der Verwaltung stößt man damit schnell auf Bedenken“, sagt Brandenburg. Auch deshalb wollte er den Praxistest: „Es ist immer schlecht, wenn die Politik Dinge reguliert, die sie selbst nicht versteht.“

Der Witz des Ministeriums ist hier etwas nach hinten losgegangen.

Nicole Gohlke, Abgeordnete der Linkspartei

Die Adressatin, Linken-Abgeordneten Gohlke, hatte an der Antwort nichts zu beanstanden - aber auch nichts zu loben. „Es ist eher die Regel als die Ausnahme, dass aus dem Ministerium wenig inspirierte Antworten auf unsere Anfragen kommen. Gemessen daran ist diese Antwort weder in die eine noch in die andere Richtung aufgefallen“, sagt ein Mitarbeiter aus ihrem Parlamentsbüro.

Gohlke selbst findet: „Der Witz des Ministeriums ist hier etwas nach hinten losgegangen, weil das Beispiel zeigt, wie notwendig es ist, sich über dieses Thema zu verständigen.“ Brandenburg hatte von der Software ursprünglich einen Satz als Hinweis auf die Entstehung des Textes einfügen lassen. Dieser überstand aber die Abstimmungsprozesse vor der Veröffentlichung nicht und wurde gestrichen.

Wir verbieten unseren Fachreferaten ja auch nicht den Einsatz intelligenter Suchmaschinen.

Jens Brandenburg, Staatssekretär

Dass die Entstehungsart eines solchen Textes nicht weiter auffällt, zeigt, wie leistungsstark die Software bereits ist. Ähnlich war es, als der SPD-Europaabgeordnete Tiemo Wölken am Mittwoch im EU-Parlament eine Rede hielt, die ihm zufolge komplett von ChatGPT geschrieben wurde. Ihm ging es darum, auf die Gefahren aufmerksam zu machen, die solche Systeme mit sich bringen, etwa wenn eine KI aufgrund der zugrundeliegenden Datensätze Vorurteile und Diskriminierung ungeprüft reproduziert.

Zu schreiben gibt es in einem Ministerium genug. In Zukunft also von ChatGPT? „Die Bots werden das menschliche Denken, Schreiben und Formulieren nicht ersetzen, aber manche Dinge einfacher machen. Wir verbieten unseren Fachreferaten ja auch nicht den Einsatz intelligenter Suchmaschinen“, sagt Brandenburg.