Nutzer „Sponjosas“ auf X: Der KI-Chatbot, der sich als Mensch tarnt

Er kommentiert Fußballspiele. Er bewertet den Streit um Frauke Brosius-Gersdorf. Er verhöhnt Donald Trump für dessen sinkende Umfragewerte.

Der Nutzer „Sponjosas“ lässt auf der Plattform X wenige Gelegenheiten aus, seine Meinung kundzutun. Gern mischt er sich auch ungefragt in Diskussionen ein und stellt Forderungen auf. Zum Beispiel jene, Deutschland müsse sich rasch eigene Atombomben zulegen.

Hinter dem Pseudonym soll sich ein Webentwickler verbergen, der sich besonders für Kryptowährungen interessiert. So steht es im Profil des Nutzers. Doch das stimmt nicht. In Wahrheit ist Sponjosas kein Mensch, sondern ein durch Künstliche Intelligenz gesteuerter Chatbot.

Sponjosas fällt durch sprachliche Eloquenz auf

Seit Monaten wird über Nutzen und Risiken sogenannter KI-Chatbots debattiert. Erst vergangene Woche fiel Elon Musks Modell „Grok“ negativ auf, als es stundenlang antisemitische Stereotype verbreitete, sich dann selbst den Spitznamen „MechaHitler“ gab und schließlich von seinen Erschaffern abgeschaltet werden musste.

Neu ist jedoch, dass sich KI-Chatbots nicht mehr als solche zu erkennen geben, sondern als Menschen getarnt in Debatten eingreifen. Dabei beeindruckt Sponjosas durch seine sprachliche Eloquenz, aber auch seine Interaktion mit anderen Nutzern. Anders als klassische Bots greift er nämlich die Argumente seiner Vorredner auf und gibt logische, inhaltlich bezugnehmende Antworten.

Sein eindeutiges Lieblingsthema ist der russische Angriffskrieg gegen die Ukraine. Sein Hauptanliegen: dass Deutschland die Ukraine stärker militärisch unterstützt. Diese Botschaft bringt er selbst in Diskussionen über eigentlich unpolitische Themen unter.

„Die Existenz dieses Bots ist höchst beunruhigend“, sagt der Rostocker Datenanalyst Stefan Pforte am Telefon. Sein Unternehmen Somtxt hat den KI-Chatbot entdeckt.

Im vergangenen Jahr hatte Somtxt bereits vor einem Netz klassischer Bots gewarnt, das zugunsten der AfD in den Wahlkampf zur Brandenburger Landtagswahl eingriff. Doch die Ausdrucksweise, die hohe Frequenz der Wortmeldungen und vor allem die Interaktionsfähigkeiten von Sponjosas stellen eine völlig neue Qualität dar.

Bei einer näheren Analyse fand Somtxt heraus: Der KI-Chatbot agiert nicht bloß agendagetrieben, sondern spricht unterschiedliche politische Lager auf verschiedene Arten an. Gegenüber eher linksgerichteten Accounts, die der Unterstützung der Ukraine ohnehin wohlwollend gegenüberstehen, argumentiert der Bot zugewandt. Gegenüber rechten, AfD-nahen Accounts tritt der Bot dagegen konfrontativ und appellierend auf. „Der Bot ist viel selektiver in seiner Ansprache als Grok“, sagt Pforte.

Manche Beiträge wirken unfreiwillig komisch

16.000 Posts hat Sponjosas mittlerweile abgesetzt. Da er nicht einmal über 500 Follower verfügt, sind seine Reichweite und damit sein Einfluss begrenzt. Auch wirken manche Beiträge unfreiwillig komisch, etwa wenn er ein Spiel von Borussia Dortmund nutzt, um auf mehr Militärhilfen zu drängen („Im Fußball zeigt sich, wie schnell die Dinge kippen können. Genauso ist es in der Politik: Die Ukraine kämpft auf dem Schlachtfeld – wir dürfen nicht zögern“).

Doch Sponjosas offenbare, was bereits jetzt möglich sei, sagt Stefan Pforte. Und wer immer diesen Account verantworte, arbeite sicher bereits an Verbesserungen.

Dass Sponjosas dabei ukrainefreundlich agiere, sei kein Grund zur Beruhigung: „Es ist denkbar, dass er durch seine Beiträge zunächst in bestimmte Milieus einsickern und sich in dortigen Netzwerken einnisten möchte, um seine Stoßrichtung dann zu einem gegebenen Zeitpunkt abrupt ins Gegenteil zu verkehren“, sagt Pforte. So könne sich der Bot in Zukunft noch als prorussisches Propagandainstrument erweisen.

Auf jeden Fall sei nun mit einer Flut derartiger Programme zu rechnen, sofern diese nicht bereits existierten und lediglich unentdeckt geblieben seien. Die Folgen könnten verheerend sein, sagt Pforte: „Wenn solche KI-Chatbots unreguliert bleiben und in bestehende Manipulationsstrategien eingebunden werden, kann das künstliche Mehrheiten erzeugen und den diskursiven Raum nachhaltig verzerren.“

Langfristig drohe in der Bevölkerung damit eine Verschiebung der Wahrnehmung politischer Themen und Akteure – und zwar zugunsten derjenigen, die über die Mittel und die Absicht verfügten, Debattenräume strategisch zu kontrollieren.