KI-Forscher Toby Walsh : "Mikrotargeting zersetzt die Demokratie"

Zwischen Roboterauto und Deep Fake: der australische Forscher Toby Walsh über Chancen und Gefahren der Künstlichen Intelligenz für die Zukunft der Menschheit.

Wann wird es ihn oder sie geben, einen Roboter mit Bewusstsein? Exponat aus der Ausstellung "AI: More than Human", die im Mai im Londoner Barbican Centre eröffnet wurde.
Wann wird es ihn oder sie geben, einen Roboter mit Bewusstsein? Exponat aus der Ausstellung "AI: More than Human", die im Mai im...Foto: Ben Stansall/AFP

Der australische Forscher Toby Walsh ist Professor für Künstliche Intelligenz an der University New South Wales und war 2017/18 Gastprofessor an der TU Berlin. In seinem aktuellen Buch „2062 – Das Jahr, in dem die Künstliche Intelligenz uns ebenbürtig sein wird“ (Riva-Verlag, München 2019, 336 S., 22 Euro) denkt er über die Koexistenz des Homo sapiens mit dem Homo digitalis nach, warnt vor den Gefahren für die Demokratie und appelliert an die Gesellschaft, jetzt die Weichen für die Zukunft zu stellen. Walsh, Jahrgang 1964, macht sich auch für ein Verbot autonomer Waffen stark. Christiane Peitz traf Toby Walsh bei dem vom Goethe-Institut veranstalteten Kultursymposium „Die Route wird neu berechnet“ in Weimar.

Mr. Walsh, warum ist die Künstliche Intelligenz gerade ein Topthema?

Es ist seltsam, ich beschäftige mich schon mein Leben lang  mit KI, jahrelang hat es keinen interessiert. Oder die Leute hielten es für Science-Fiction. Obwohl wir von dem Zeitpunkt, an dem Maschinen tatsächlich so intelligent sein können wie Menschen, noch weit entfernt sind, hat sich das jetzt geändert.   Dass über KI heute mehr diskutiert wird als 1997, als der Schachcomputer Deep Blue den Schachweltmeister Garri Kasparow besiegte, liegt vor allem an der immens gestiegenen Rechenleistung. Damals brauchte man riesige Computer, heute können kleine Rechner Schach spielen. Und jeder von uns hat ein Smartphone. Mit den Daten, die ununterbrochen über unsere Aktivitäten und Vorlieben gesammelt werden, werden die Algorithmen immer präziser.

Der Fortschritt ist unaufhaltsam?

Es geschieht nicht von selbst. Immense Summen werden in KI investiert, sie verdoppelt sich alle zwei Jahre. Google oder Facebook verfügen über Ressourcen, von denen wir an der Universität nur träumen können. Nehmen Sie das Brettspiel Go, bei dem der Computer jetzt jeden Spieler schlagen kann. Das kann er nicht wegen technischer Innovationen, sondern wegen der enormen Anstrengungen, die das von Google gekaufte Unternehmen Deep Mind unternommen hat. Zig Leute arbeiteten daran. Es lag am Aufwand, es war kein konzeptioneller Durchbruch. Ansonsten sind eher einfache Dinge möglich, Übersetzungen zum Beispiel, wenn auch nicht perfekt. Aber ein Computer würde bei dem Satz „Er ist schwanger“ nicht stutzen, sondern einfach übersetzen. Und wenn ein Verkehrsschild minimal verändert wird, verwechselt das selbstfahrende Auto das Stoppschild leicht mit einem Vorfahrtsschild.

Trotzdem sagen Sie, dass weniger Menschen hinterm Steuer auch weniger Unfälle bedeuten.

Weil wir andere Fehler machen, unaufmerksam sind oder optischen Täuschungen unterliegen. Mir ist wichtig, wie unterschiedlich die Intelligenzen sind. Maschinen denken nicht so komplex wie wir.

Was sind Ihre größten Befürchtungen und Hoffnungen?

Vor zehn Jahren schien die Künstliche Intelligenz noch weit davon entfernt zu sein, praktische Folgen für den Alltag zu haben. Inzwischen machen wir KI-Forscher uns viele Sorgen: über selbstfahrende Autos, autonome Waffen, Fake News und Deep Fake, Filterbubbles und Mikrotargeting, also das gezielte Bewerben von Kunden und Wählern. Werden die neuen Technologien den Reichtum in den Händen von immer weniger Menschen konzentrieren? Wie viele verlieren ihren Job an Roboter?

Gleichzeitig entwerfen Sie die Vision von der Vier-Tage-Woche und einer Gesellschaft, die mehr Zeit für die Familie oder soziales Engagement hat.

In jedem Fall gehen Arbeitsplätze verloren. Übersetzer oder Taxifahrer werden ersetzt, weil Roboter billiger sind. Wobei wir uns künftig wahrscheinlich als Premium-Taxifahrt das bemannte Auto bestellen können, mit einem Chauffeur, der uns die Tür öffnet, das Gepäck in den Kofferraum lädt und während der Fahrt Konversation macht. Das kostet dann extra, und wir prahlen vor unseren Freunden damit.

Sie haben zahlreiche Petitionen gegen autonome Waffen initiiert und 30.000 Unterschriften von Akademikern und Experten gegen Killerroboter gesammelt. Und Sie warnen davor, dass Wahlen künftig mittels Deep Fake manipuliert werden.

Ich wette, dass Letzteres im Lauf des nächsten Jahres geschehen wird.  Ohne die sozialen Medien wären die Brexit-Abstimmung und die letzten US-Wahlen anders verlaufen. Die Arbeit von Cambridge Analytica war nicht besonders clever, aber sie hatte Folgen für die ohnehin knappen Wahlausgänge. Es gibt auch starke Belege dafür, dass Facebook bereits frühere US-Wahlen beeinflusst hat. Facebook forderte seine Nutzer auf, an die Wahlurnen zu gehen. Weil das soziale Netzwerk mehr von jüngeren und liberalen Leuten genutzt wird und seine User keinen repräsentativen Durchschnitt bilden, bringt das Stimmen für die Demokraten. Social Media weiß alles über seine Nutzer, die Ansprache kann sehr gezielt sein.

Der australische KI-Forscher beim Kultursymposium des Goethe-Instituts in Weimar.
Der australische KI-Forscher beim Kultursymposium des Goethe-Instituts in Weimar.Foto: Jörg Gläscher/Goethe-Institut

Was genau ist daran so gefährlich?

Es zersetzt die Demokratie. Ebenso wenig wie autonome Waffen über Leben und Tod entscheiden sollten, wollen wir auch nicht, dass diejenigen die Wahlen gewinnen, die über die beste Technologie und die meisten Daten verfügen. Sondern die, die besten Ideen haben. Schon jetzt ist es technisch mittels Deep Fake und Stimmenimitation möglich, dass ein vermeintlicher Donald Trump bei jedem US-Bürger „anruft“ und ein persönliches Gespräch mit ihm führt. In vielen Ländern gibt es strenge Gesetze über das Geld und die Werbung, die bei Wahlen eingesetzt werden dürfen. Um zu verhindern, dass sich die Reichen politische Macht kaufen. Die sozialen Medien sind so wirkungsvoll wie herkömmliche Kampagnen, auch hier müsste es mehr Kontrolle geben. Wir müssen darüber diskutieren, ob Social Media die politische Willensbildung eher stärkt oder behindert.

Sie fordern Gesetze?

Viele sagen, man solle das Internet nicht regulieren, sein Wesen sei der freie Datenfluss. Aber es kann und sollte reguliert werden. Nehmen Sie die 2018 eingeführte Datenschutz-Grundverordnung. Sie führte eben nicht dazu, dass Facebook oder Google sich aus Europa zurückgezogen hätten. Nein, sie passten ihre Regeln an. Die meisten halten die DSGVO jetzt für eine gute Sache und sind stolz auf die hohen Standards. Diese Plattformen sind Monopolisten, Daten-Monopolisten, Markt-Monopolisten. Sie sind keine Verbündeten des Allgemeinwohls, deshalb brauchen wir Regeln.

Ist nichts mehr übrig von der Aufbruchstimmung zu Beginn der Digitalisierung?

Stellen Sie sich Ihren heutigen Alltag mal ohne das Internet vor. 30 Jahre Digitalisierung sind erstmal ein Segen. Aber wir müssen die Geschwindigkeit drosseln, und es geschieht ja bereits. Die Zeiten, als tausend Blumen blühten, sind vorbei. Im Moment gibt es eher Copycat-Erneuerungen, Nachahmer, Trittbrettfahrer. Es ist kaum möglich, als Suchmaschine mit einem Player wie Google zu konkurrieren, schon wegen der Datenmengen, über die Google verfügt. Und im Zweifel kaufen sie dich auf.

Wann wird es ihn oder sie geben, einen Roboter mit Bewusstsein? Exponat aus der Ausstellung "AI: More than Human", die im Mai im Londoner Barbican Centre eröffnet wurde.
Wann wird es ihn oder sie geben, einen Roboter mit Bewusstsein? Exponat aus der Ausstellung "AI: More than Human", die im Mai im...Foto: Ben Stansall/AFP

Können wir, was den Verlust von Arbeitsplätzen betrifft, etwas von der industriellen Revolution für die digitale Revolution lernen?

Der damalige Umbruch zog 50 Jahre Leid nach sich, bevor sich der westliche Lebensstandard generell erhöhte. Dem gingen Arbeitskämpfe voraus, viele mussten einen hohen Preis zahlen, bis es Gewerkschaften gab und Gesetze zur Sicherheit am Arbeitsplatz oder gegen Kinderarbeit erlassen wurden. Heute gehen die Veränderungen erheblich   schneller vor sich. In diesem rasanten Strukturwandel bleibt wenig Zeit, um Arbeitnehmerrechte zu stärken. Auch hier brauchen wir eine öffentliche Debatte: über die Verantwortung der Unternehmen für ihre Angestellten, die Verantwortung jedes Einzelnen und die Möglichkeiten des Staats, den Prozess zu steuern, etwa über Steuervorteile für faire Unternehmen oder Umschulungs- und Bildungsangebote.

Klingt utopisch.

Kurzfristig bin ich pessimistisch, langfristig vorsichtig optimistisch. Es wird zunächst schmerzhaft, auch Radiologen oder Fernfahrer werden ihre Arbeit verlieren. Ein Blick auf die Geschichte zeigt, wir sind nicht gut darin, solche Veränderungsprozesse verträglich zu gestalten. Wer früher seinen Job verlor, blieb meist für den Rest seines Lebens arbeitslos, mit traurigen Folgen auch für die Kinder. Das sollte uns eine Lehre sein. 2017 machte die National Australia Bank einen Rekordprofit von über 6 Milliarden Dollar und verkündete gleichzeitig die Entlassung von 6000 Angestellten, wegen der Digitalisierung. Die Bank annoncierte aber auch, dass sie 2000 Mitarbeiter mit digitalem Knowhow einstellt. Ich finde, das ist schlechtes Management. Soll es toleriert werden? Vielleicht müsste die Gesellschaft solche Unternehmenspolitik mit Bußgeldern belegen.

Der Titel Ihres Buchs „2062“ beziffert das Jahr, in dem die Künstliche Intelligenz der menschlichen ebenbürtig sein wird. Sie haben 300 Wissenschaftler um deren Prognose gebeten und den Durchschnitt ermittelten. Und wie lange dauert es Ihrer Meinung nach noch?

Länger, bis 2102. Ich habe parallel auch Nicht-Experten befragt, sie glaubten, dass es nur bis 2042 dauert.  Niemand sagt, es dauert noch tausend Jahre, die meisten denken, der Zeitpunkt ist zu Lebzeiten unserer Kinder oder Enkelkinder erreicht. Wir müssen uns also darauf vorbereiten. Bei der Wahl des Buchtitels spielte wohl auch mein Unterbewusstsein eine Rolle. Erst als das Buch fertig war und ich meiner achtjährigen Tochter erklärte, dass es von der Welt handelt, die sie einmal erben wird, wurde mir klar, dass sie 2062 exakt so alt ist wie ich heute.

Video
Roboter hilft Reisenden am Berliner Hauptbahnhof
Roboter hilft Reisenden am Berliner Hauptbahnhof

Ob früher oder später: Wird es Roboter geben, die mit Gefühlen und Moralempfinden ausgestattet sind wie Adam in Ian McEwans Romans „Maschinen wie wir“?

Wir wissen es nicht. Kann KI kreativ sein?  Selbst wenn sie eines Tages Musik komponieren kann, die wie Beethoven klingt, wird diese Musik uns nie auf ähnliche Weise ansprechen. Was macht uns zu Menschen, wenn wir morgens die Augen aufschlagen? Nicht unsere Intelligenz, sondern unser Bewusstsein. Wir verlieben uns, wir verlieren unsere Liebsten, wir genießen das Glück, wir fürchten den Tod, das macht uns einzigartig. Maschinen verlieben sich nicht, empfinden nichts, können nicht für ihr Tun verantwortlich gemacht werden. Es ist eine der großen wissenschaftlichen Fragen des 21. Jahrhunderts, ob Maschinen möglich sind, die mehr besitzen als das, was der Philosoph David Chalmers Zombie-Intelligenz nennt. Die Schach spielen und Gefühle dabei haben. Sollte es uns aber gelingen, Maschinen mit Bewusstsein zu entwickeln, werden wir über unser eigenes Bewusstsein neu nachdenken müssen.

Nur zehn bis 15 Prozent der KI-Experten sind Frauen. Großes Spielzeug für große Jungs - ein Problem?

Aber ja, wir brauchen in dem Berufsfeld nicht nur mehr Frauen, sondern insgesamt mehr Diversität. Aus vielen Gründen. Weil nicht die Hälfte der Menschheit bei der Gestaltung der Zukunft außen vor bleiben kann. Weil die Technologie inklusiv sein muss. Wenn nur weiße Männer daran arbeiten, werden bestimmte Fragen erst gar nicht gestellt. Weil schon die Daten, mit denen die heutigen Computer gefüttert werden, nicht neutral, sondern von herrschenden Vorurteilen geprägt sind, auch von Sexismus und Rassismus. Was bedeutet Fairness? Eine Studie ergab, dass die Künstliche Intelligenz 21 verschiedene mathematische Antworten darauf gibt. Was heißt es, dass Frauen ebenbürtig sind? Dass in allen Chefetagen 50 Prozent Frauen sitzen? Dass sie gleiche Chancen haben?  Solche Fragen können wir nicht der Technik überlassen. 


Mehr lesen? Jetzt E-Paper gratis testen!

1 Kommentar

Neuester Kommentar