Der „Ketzer der Informatik“: Was ChatGPT und Internet mit Joseph Weizenbaum zu tun haben

Sie hieß „Eliza“, die erste künstlich intelligente Psychotherapeutin, die der 1923 in Berlin geborene und 2008 gestorbene Informatiker Joseph Weizenbaum in den 60er Jahren schuf. Sie war eine frühe Vorläuferin eines modernen „Chatbots“ und konnte damals schon ein einfaches Therapiegespräch führen. Auf Basis von Eingaben der Nutzerinnen und Nutzer („unglücklich“) stellte Eliza simple Rückfragen („Hilft dir unser Gespräch, weniger unglücklich zu sein?“). Das erinnert tatsächlich schon an das, wofür die Software ChatGPT heute, 60 Jahre später, gefeiert wird.

Es ist aber nicht die Programmierung der Maschine, die Weizenbaum so berühmt gemacht hat. „Eliza war im Kontext der Erfindungen, die aus Stanford kamen, eigentlich nichts Außergewöhnliches“, erinnert sich die Informatikerin Christiane Floyd, die damals in Stanford unterrichtete, wo Weizenbaum ein Sabbatical machte und Eliza vorführte. „Es war nur ein Scherz.“ Weizenbaum wollte aufzeigen, wie limitiert das Kommunikationsvermögen von Maschinen ist.

Ein Scherz, der ernst wird

Doch die Menschen nahmen die Erfindung ernst – 1975 entwarf der Publizist Carl Sagan auf Grundlage von Eliza sogar eine Vision von der Zukunft der Therapie. Weizenbaum selbst empfand die zunehmende Abhängigkeit von Maschinen als problematisch, genauso wie die Sicht auf Künstliche Intelligenz als Allheilmittel des gesellschaftlichen Fortschritts.

Das Internet ist nichts als ein „Schrotthaufen mit Perlen drin“.

Joseph Weizenbaum, Informatiker

Und das Internet? War für Weizenbaum zu Lebzeiten nichts als ein „Schrotthaufen mit Perlen drin“. Es ist die kritische Haltung – nicht zu Technik an sich, sondern zu dem gesellschaftlichen Umgang mit ihr – die sein Schaffen prägte.

Der selbsternannte „Dissident“ und „Ketzer der Informatik“ wäre am Sonntag, dem 8. Januar, 100 Jahre alt geworden. Für das nach ihm benannte Weizenbaum-Institut, ein Zusammenschluss aus Berliner Universitäten und Forschungseinrichtungen zur interdisziplinären Erforschung der vernetzten Gesellschaft, ist das Jubiläum ein Anlass, die Lehren, die für das Heute noch nützlich sein könnten, aufzurollen – und unter anderem Eliza noch einmal zu reaktivieren. „Er würde seine Thesen heute genauso wiederholen, anhand neuerer Beispiele“, glaubt der Kommunikationswissenschaftler Christian Strippel. „Wahrscheinlich wäre er ziemlich frustriert.“

Weizenbaum habe sich in der fachwissenschaftlichen Szene nicht nur Freunde gemacht, teilweise sei er isoliert gewesen, erinnert sich Floyd. Aber er erarbeitete sich den Status eines Intellektuellen – auch weil er die Informatik nicht von außen, sondern als intimer Kenner kritisierte. Strippel sieht ihn als Teil eines intellektuellen Milieus, welches die Silicon-Valley-Technologiegläubigkeit schon damals hinterfragt hat.

© Rolf Schulten/Weizenbaum-Institut

Mit Weizenbaums Extrempositionen hatte Floyd teilweise ihre Probleme. Zum Beispiel sei er der Meinung gewesen, dass es gar keine positive Nutzung von KI geben könne. Auf das Beispiel Textverarbeitung bezogen habe er erwidert: „Das sind keine Computer, sondern Schreibmaschinen.“

Die Informatikerin Floyd traf Weizenbaum, zurück in Europa, wieder. Sie habe ihm damals „beigestanden“, als er 1979 nach Berlin kam – erstmals nach der erzwungenen Migration seiner jüdischen Familie im Jahr 1936. Das sei eine bewegende Zeit für ihn gewesen.

Technik für das „digitale Schlachtfeld“

Und sicher auch ein Grund für seine Haltung: Tatsächlich verwies Weizenbaum etwa auf den Holocaust, als er davor warnte, menschliche Konflikte als „Probleme“ zu beschreiben, die es zu „lösen“ gilt. Eine solche technische Sprache und Sichtweise würden dazu führen, dass man vor allem nach technischen statt nach sozialen oder politischen Lösungen suche. Erst lange nach seiner Emeritierung am MIT im Jahr 1988 kam Weizenbaum in den 90er Jahren permanent zurück nach Deutschland.

Ebenso prägend wie sein Hintergrund dürfte für Weizenbaum aber die Zeit als Wissenschaftler und Professor am MIT gewesen sein, glaubt Strippel. Dort habe er am Arpanet, dem ursprünglich für das Militär gedachten Vorläufer des modernen Internets mitgearbeitet, aber auch an Technologien für das „digitale Schlachtfeld“ der Zukunft, wie Weizenbaum es einmal beschrieb.

Sie hätten „furchtbare Sachen erfunden“, sagte Weizenbaum 2005 über die Zusammenarbeit des MIT mit dem Pentagon.
Floyd glaubt, dass Weizenbaum auch deshalb als ein so glaubwürdiger Kritiker von Technologie galt, weil er als Praktiker unmittelbar an ihrer Entwicklung mitgewirkt hatte. In den Achtzigerjahren gründeten Floyd und Weizenbaum das Forum Informatiker:innen für Frieden und gesellschaftliche Verantwortung, das sich für den ethischen Einsatz von Technologie einsetzt. 

Damals war es der Atomkrieg, heute wären es autonome Drohnen, die ohne KI nicht in der Lage wären, auf große Distanz zu töten. „Dazu hätte er ganz sicher eine starke Meinung“, ist Floyd überzeugt. Sie hält am Dienstag bei der Jubiläumsveranstaltung des Instituts die Festrede über Weizenbaum.