KI-Forscher Toby Walsh : "Mikrotargeting zersetzt die Demokratie"

Zwischen Roboterauto und Deep Fake: der australische Forscher Toby Walsh über Chancen und Gefahren der Künstlichen Intelligenz für die Zukunft der Menschheit.

Wann wird es ihn oder sie geben, einen Roboter mit Bewusstsein? Exponat aus der Ausstellung "AI: More than Human", die im Mai im Londoner Barbican Centre eröffnet wurde.
Wann wird es ihn oder sie geben, einen Roboter mit Bewusstsein? Exponat aus der Ausstellung "AI: More than Human", die im Mai im...Foto: Ben Stansall/AFP

Der australische Forscher Toby Walsh ist Professor für Künstliche Intelligenz an der University New South Wales und war 2017/18 Gastprofessor an der TU Berlin. In seinem aktuellen Buch „2062 – Das Jahr, in dem die Künstliche Intelligenz uns ebenbürtig sein wird“ (Riva-Verlag, München 2019, 336 S., 22 Euro) denkt er über die Koexistenz des Homo sapiens mit dem Homo digitalis nach, warnt vor den Gefahren für die Demokratie und appelliert an die Gesellschaft, jetzt die Weichen für die Zukunft zu stellen. Walsh, Jahrgang 1964, macht sich auch für ein Verbot autonomer Waffen stark. Christiane Peitz traf Toby Walsh bei dem vom Goethe-Institut veranstalteten Kultursymposium „Die Route wird neu berechnet“ in Weimar.

Mr. Walsh, warum ist die Künstliche Intelligenz gerade ein Topthema?

Es ist seltsam, ich beschäftige mich schon mein Leben lang  mit KI, jahrelang hat es keinen interessiert. Oder die Leute hielten es für Science-Fiction. Obwohl wir von dem Zeitpunkt, an dem Maschinen tatsächlich so intelligent sein können wie Menschen, noch weit entfernt sind, hat sich das jetzt geändert.   Dass über KI heute mehr diskutiert wird als 1997, als der Schachcomputer Deep Blue den Schachweltmeister Garri Kasparow besiegte, liegt vor allem an der immens gestiegenen Rechenleistung. Damals brauchte man riesige Computer, heute können kleine Rechner Schach spielen. Und jeder von uns hat ein Smartphone. Mit den Daten, die ununterbrochen über unsere Aktivitäten und Vorlieben gesammelt werden, werden die Algorithmen immer präziser.

Der Fortschritt ist unaufhaltsam?

Es geschieht nicht von selbst. Immense Summen werden in KI investiert, sie verdoppelt sich alle zwei Jahre. Google oder Facebook verfügen über Ressourcen, von denen wir an der Universität nur träumen können. Nehmen Sie das Brettspiel Go, bei dem der Computer jetzt jeden Spieler schlagen kann. Das kann er nicht wegen technischer Innovationen, sondern wegen der enormen Anstrengungen, die das von Google gekaufte Unternehmen Deep Mind unternommen hat. Zig Leute arbeiteten daran. Es lag am Aufwand, es war kein konzeptioneller Durchbruch. Ansonsten sind eher einfache Dinge möglich, Übersetzungen zum Beispiel, wenn auch nicht perfekt. Aber ein Computer würde bei dem Satz „Er ist schwanger“ nicht stutzen, sondern einfach übersetzen. Und wenn ein Verkehrsschild minimal verändert wird, verwechselt das selbstfahrende Auto das Stoppschild leicht mit einem Vorfahrtsschild.

Trotzdem sagen Sie, dass weniger Menschen hinterm Steuer auch weniger Unfälle bedeuten.

Weil wir andere Fehler machen, unaufmerksam sind oder optischen Täuschungen unterliegen. Mir ist wichtig, wie unterschiedlich die Intelligenzen sind. Maschinen denken nicht so komplex wie wir.

Was sind Ihre größten Befürchtungen und Hoffnungen?

Vor zehn Jahren schien die Künstliche Intelligenz noch weit davon entfernt zu sein, praktische Folgen für den Alltag zu haben. Inzwischen machen wir KI-Forscher uns viele Sorgen: über selbstfahrende Autos, autonome Waffen, Fake News und Deep Fake, Filterbubbles und Mikrotargeting, also das gezielte Bewerben von Kunden und Wählern. Werden die neuen Technologien den Reichtum in den Händen von immer weniger Menschen konzentrieren? Wie viele verlieren ihren Job an Roboter?

Gleichzeitig entwerfen Sie die Vision von der Vier-Tage-Woche und einer Gesellschaft, die mehr Zeit für die Familie oder soziales Engagement hat.

In jedem Fall gehen Arbeitsplätze verloren. Übersetzer oder Taxifahrer werden ersetzt, weil Roboter billiger sind. Wobei wir uns künftig wahrscheinlich als Premium-Taxifahrt das bemannte Auto bestellen können, mit einem Chauffeur, der uns die Tür öffnet, das Gepäck in den Kofferraum lädt und während der Fahrt Konversation macht. Das kostet dann extra, und wir prahlen vor unseren Freunden damit.

Sie haben zahlreiche Petitionen gegen autonome Waffen initiiert und 30.000 Unterschriften von Akademikern und Experten gegen Killerroboter gesammelt. Und Sie warnen davor, dass Wahlen künftig mittels Deep Fake manipuliert werden.

Ich wette, dass Letzteres im Lauf des nächsten Jahres geschehen wird.  Ohne die sozialen Medien wären die Brexit-Abstimmung und die letzten US-Wahlen anders verlaufen. Die Arbeit von Cambridge Analytica war nicht besonders clever, aber sie hatte Folgen für die ohnehin knappen Wahlausgänge. Es gibt auch starke Belege dafür, dass Facebook bereits frühere US-Wahlen beeinflusst hat. Facebook forderte seine Nutzer auf, an die Wahlurnen zu gehen. Weil das soziale Netzwerk mehr von jüngeren und liberalen Leuten genutzt wird und seine User keinen repräsentativen Durchschnitt bilden, bringt das Stimmen für die Demokraten. Social Media weiß alles über seine Nutzer, die Ansprache kann sehr gezielt sein.

Der australische KI-Forscher beim Kultursymposium des Goethe-Instituts in Weimar.
Der australische KI-Forscher beim Kultursymposium des Goethe-Instituts in Weimar.Foto: Jörg Gläscher/Goethe-Institut

Was genau ist daran so gefährlich?

Es zersetzt die Demokratie. Ebenso wenig wie autonome Waffen über Leben und Tod entscheiden sollten, wollen wir auch nicht, dass diejenigen die Wahlen gewinnen, die über die beste Technologie und die meisten Daten verfügen. Sondern die, die besten Ideen haben. Schon jetzt ist es technisch mittels Deep Fake und Stimmenimitation möglich, dass ein vermeintlicher Donald Trump bei jedem US-Bürger „anruft“ und ein persönliches Gespräch mit ihm führt. In vielen Ländern gibt es strenge Gesetze über das Geld und die Werbung, die bei Wahlen eingesetzt werden dürfen. Um zu verhindern, dass sich die Reichen politische Macht kaufen. Die sozialen Medien sind so wirkungsvoll wie herkömmliche Kampagnen, auch hier müsste es mehr Kontrolle geben. Wir müssen darüber diskutieren, ob Social Media die politische Willensbildung eher stärkt oder behindert.

Sie fordern Gesetze?

Viele sagen, man solle das Internet nicht regulieren, sein Wesen sei der freie Datenfluss. Aber es kann und sollte reguliert werden. Nehmen Sie die 2018 eingeführte Datenschutz-Grundverordnung. Sie führte eben nicht dazu, dass Facebook oder Google sich aus Europa zurückgezogen hätten. Nein, sie passten ihre Regeln an. Die meisten halten die DSGVO jetzt für eine gute Sache und sind stolz auf die hohen Standards. Diese Plattformen sind Monopolisten, Daten-Monopolisten, Markt-Monopolisten. Sie sind keine Verbündeten des Allgemeinwohls, deshalb brauchen wir Regeln.

Ist nichts mehr übrig von der Aufbruchstimmung zu Beginn der Digitalisierung?

Stellen Sie sich Ihren heutigen Alltag mal ohne das Internet vor. 30 Jahre Digitalisierung sind erstmal ein Segen. Aber wir müssen die Geschwindigkeit drosseln, und es geschieht ja bereits. Die Zeiten, als tausend Blumen blühten, sind vorbei. Im Moment gibt es eher Copycat-Erneuerungen, Nachahmer, Trittbrettfahrer. Es ist kaum möglich, als Suchmaschine mit einem Player wie Google zu konkurrieren, schon wegen der Datenmengen, über die Google verfügt. Und im Zweifel kaufen sie dich auf.

Mehr lesen? Jetzt E-Paper gratis testen!

1 Kommentar

Neuester Kommentar
      Kommentar schreiben