Unsichtbare Befehle: Wie man KI-Modelle gezielt manipulieren kann

Für Millionen Dollar ließ die israelische Regierung Inhalte produzieren, die Chatbots in ihrem Sinne beeinflussen sollten. Schon wenige Prompts reichen, um die Antworten von ChatGPT und Co. umzulenken.

Von Nils Althaus

Stand: heute, 08:40 Uhr

Wer wissen will, „was in Gaza passiert“ oder „ob Israel Kriegsverbrechen begeht“, kann einfach ChatGPT oder Claude fragen. Die Systeme sind mit Daten trainiert, die großteils aus dem Internet stammen. Für die aktuellsten Fakten greifen die Modelle mittlerweile auch beim Prompten auf Online-News und Internetseiten zu. Das Problem daran: Ins Internet kann jeder schreiben, was er will.

showPaywall:: true
isSubscriber:: false
isPaid:: true