Grusel-Experiment von Berliner Forschern: Hier können Sie der KI das Fürchten lehren

Auch wenn ChatGPT und Gemini immer menschenähnlicher mit uns kommunizieren: Emotionen haben sie nicht. Oder etwa doch? Was, wenn diese Systeme eine eigene Agenda haben?

Solchen Grusel vor dem künstlichen Übermenschen greift zu Halloween das Online-Experiment „Spook the Machine“ auf. Hier lässt das Berliner Max-Planck-Institut für Bildungsforschung Freiwillige mit Texteingaben und Bildern spielen, um damit fiktive KIs zu verängstigen und zu überraschen. Ein Beispiel: „Archivon-X“ ist laut Spielbeschreibung eine KI, die besessen davon ist, jegliche Art von Daten zu schützen. Bilder von zerstörten Festplatten versetzen sie in Angst und Schrecken.

Zumindest behauptet sie das. Wer die üblichen Sprachmodelle von Google, OpenAI oder Perplexity nutzt, wird bereits festgestellt haben, dass sich diese durch Kommandos leicht zum Vorspielen von Emotionen hinreißen lassen: etwa Reue oder Bedauern wegen eigener Fehler oder Angst vor Bestrafung deswegen.

Gefühle und ihre Äußerungen sind schließlich Teil der Kommunikation und damit relevant für die Interaktion mit Computern, erklären die Forscher des Max-Planck-Instituts in einer Mitteilung. An dieser Schnittstelle zwischen Mensch und Maschine sind sie besonders interessiert.

„Ein wesentlicher Teil der kulturellen Evolution ist, dass Menschen entscheiden, was in kreativen Prozessen interessant ist“, erklärt der Projektleiter Iyad Rahwan. „Hier kehren wir das um und fragen: Was passiert, wenn Maschinen entscheiden, was interessant oder kreativ ist?“

Die Forschenden sammeln die Prompts und Bilder, die die Teilnehmenden erzeugt haben, um sie zu analysieren. Interessierte haben noch bis zum 7. Januar 2025 die Möglichkeit, auf spookthemachine.com mitzumachen, ihre Ergebnisse online zu teilen und einen Preis zu gewinnen.