Künstliche Intelligenz: "Wer ist am Ende schuld, wenn ein Fehler passiert?"

Herr Igel, Sie forschen darüber, wie Menschen und Künstliche Intelligenz (KI) künftig zusammenarbeiten. Was passiert, wenn der Roboter plötzlich zum Kollegen wird?

Es entstehen völlig neue Situationen und Beziehungen am Arbeitsplatz. Über viele Generationen waren wir es etwa in der Produktion gewohnt, dass Maschinen aus Stahl sind, dass es in den Fertigungshallen rumpelt, riecht und quietscht. Jetzt werden diese Arbeitsprozesse digitalisiert: Die Maschinen sind mit ein paar Klicks bedienbar, wissen selbst, wenn etwas kaputt ist, bestellen Ersatzteile, reparieren sich womöglich autonom. Die Menschen fragen sich dann natürlich: Kann ich dem neuen Kollegen KI vertrauen? Wie tickt der? Wie verhält er sich?

Und? Vertrauen Menschen ihrem neuen Kollegen KI?
Sicher fällt das Leuten, die in technologieaffinen Branchen arbeiten, leichter. Aber branchenübergreifend stellen wir fest, dass es, wenig überraschend, einen Alterseffekt gibt: Junge Menschen vertrauen den Methoden und Anwendungen der KI sehr viel schneller. Je älter die Leute sind, desto kritisch-reflektierter stehen sie diesen gegenüber. Wenn ein Arbeitgeber nun aber entscheidet, mehr KI einsetzen zu wollen, müssen diese verschiedenen Haltungen berücksichtigt und in die Umstellung integriert werden. Dabei geht es auch um grundlegende ethische Fragen.

Welche ethischen Fragen sind das?
Die Frage etwa nach individueller Freiheit. Werden die Arbeitnehmer von der KI nur unterstützt in ihrer Entscheidungsfindung? Oder nimmt ihnen die KI die Entscheidung ab? Fragen nach individueller Selbstbestimmung werden dabei berührt. Und es geht um Verantwortung: Wer ist am Ende schuld, wenn ein Fehler passiert? Die KI? Derjenige, der sie entwickelt hat? Oder der Mensch, der sie vor Ort einsetzt und kontrollieren soll? Auf solche Fragen müssen wir Antworten finden.

Auch auf die Sorge vieler Menschen, dass ihr Job künftig komplett vom Roboter übernommen wird.
Dass möglicherweise Jobs verloren gehen, ist kein KI-spezifischer Effekt. Das gab es immer, wenn neue Technologien eingeführt worden sind. Am Ende werden mehr Leute in Lohn und Brot sein als vorher, die Prozesse dahin müssen aber wohl durchdacht sein. Und da haben wir nun eine völlig neue Situation.

Wie sieht diese Situation aus?
Wir wissen, dass in den nächsten Jahren viele Jobs neu entstehen werden. Wir wissen aber noch nicht genau, von welcher Art diese Jobs sein werden. Und das führt zu einem Dilemma: Wir wissen bislang leider nur sehr unspezifisch, wie wir die Menschen, deren Jobs von KI-Anwendungen übernommen werden, für die neuen Jobs qualifizieren können.

Nichts zu tun, ist aber keine Lösung.
Selbstverständlich nicht. Fest steht, dass Qualifizierungsangebote nicht mehr so lange im Voraus geplant werden können, sondern sehr viel agiler sein müssen. Wir wissen, dass Jobs mit hoher Prozess-Standardisierung wie etwa der Sachbearbeitung eher wegfallen werden. Andere Bereiche, wo man kreativ sein, Empathie haben muss, werden nur in geringem Maße durch KI ersetzt werden. Wer sich für die Zukunft qualifizieren will, muss deshalb in neue Kompetenzbereiche schauen. Da muss jeder Mensch ein Stück weit raus aus seiner Wohlfühlecke.

Sollte Künstliche Intelligenz Schulfach werden?
Computer und das Internet sollen in der Schule in allen Fächern als Methode, als Instrument genutzt werden – neben analogen Büchern, der traditionellen Tafel oder auch dem Overhead-Projektor. Denn nur, wenn sich die Kinder mit Technologien und den von ihnen gelieferten Ergebnissen auseinandersetzen, können sie eine kritisch-reflektierte Haltung erlernen, verstehen und einnehmen. Neben der grundlegenden Ausbildung in allen Schulen brauchen wir auch solche mit einem Digital-Schwerpunkt, also Eliteschulen, in denen junge Menschen schon früh die Chance bekommen, sich zu spezialisieren und zu qualifizieren. So, wie es das auch für Bereiche wie Sport oder Musik gibt. Da muss in Deutschland deutlich mehr passieren. Wir sind bereits weit abgeschlagen im internationalen Vergleich.

Woran liegt das?
Zunächst an ganz banalen Dingen wie der mangelhaften Breitbandanbindung. Dann ist die deutsche Schullandschaft ein Flickenteppich. Hinzu kommt die Haltung: Wir haben Lehrende an den Schulen, die mehrheitlich der Nutzung von Technologien kritisch oder sogar ablehnend gegenüberstehen. Da können die Eltern oder die Schülerinnen und Schüler den Einsatz digitaler Technologien noch so sehr wollen: Wenn die Rahmenbedingungen nicht passen, passiert eben nichts.

© Getty Images/iStockphoto

Na ja, so allein steht Deutschland damit nicht da. In Frankreich sind gerade Handys an Schulen verboten worden.
Damit wird ein Stück der Lebens- und Arbeitsrealität im schulischen Kontext ausgeblendet. Das sehe ich durchaus kritisch.

Sie sind neben Ihrer Position am DFKI auch Visiting Professor an der Shanghai Jiao Tong Universität in China. Wird Deutschland von den Chinesen überhaupt als ernst zu nehmender Konkurrent wahrgenommen?
In Deutschland schaut man mit großem Interesse derzeit nach China, aber auch in die USA. In China schaut man nach Europa, insbesondere auf die deutsche Forschung zu KI und Maschinellem Lernen. Es ist ein internationaler Wettlauf um die besten Ideen, die besten Köpfe, die besten Strategien. Und um die besten Leistungen auf dem Feld der KI. In der Forschung, in der Industrie, in der Wirtschaft. Und in der Politik. Dieser Wettlauf ist noch lange nicht entschieden. Was mir allerdings große Sorgen macht, ist der Brain-Drain, wir verlieren in kritischem Maß die dafür notwendigen Nachwuchskräfte.

Wodurch ist dieser Brain-Drain bedingt?
Sowohl aus China als auch aus den USA werden junge Wissenschaftler zu Gehältern und Rahmenbedingungen abgeworben, die wir in Deutschland schlichtweg nicht anbieten können.

Von welcher Höhe sprechen Sie?
Ein Vielfaches höher, als wir bezahlen können. Vor allem die großen Tech-Unternehmen werben um Deutschlands beste Nachwuchskräfte. Das ist der kritischste Punkt: Wenn wir hier Top-Leute ausbilden, diese dann aber nicht für die deutsche Wirtschaft und Industrie gewinnen können, haben wir in Deutschland bald ein ganz anderes Problem als die Frage, ob und wie wir mit den Investitionen von China mithalten können.

Mehr Informationen zu den Themen Digitalisierung und Künstliche Intelligenz erhalten Sie in unserem neuen Briefing „Tagesspiegel Background Digitalisierung und KI“. Sie können das Briefing vier Wochen lang kostenlos testen. Anmeldung unter: background.tagesspiegel.de/digitalisierung