Empörung über Musks KI-Chatbot: Seit Tagen veröffentlicht Grok pornografische Bilder von Frauen und Kindern

Seit Tagen nutzen User auf Elon Musks Plattform X die Künstliche Intelligenz der Plattform, Grok, um pornografische und herabwürdigende Bilder von Frauen und Kindern zu erstellen. Trotz zahlreicher Beschwerden – die ersten gab es rund um Silvester – generiert Grok die Bilder bis heute. Sie werden auch als Deepfakes bezeichnet.

Der Hintergrund: Ende Dezember hatte X eine Schaltfläche „Bild bearbeiten“ für Grok eingeführt. Seitdem häufen sich Beschwerden über den sogenannten „spicy mode“ (doppeldeutig: scharfer Modus), der laut X „rohe“ und „ungefilterte“ Anfragen zulässt, bei denen kein Thema tabu sei. Die Musk-KI entkleidet die Menschen auf den Fotovorlagen nicht vollständig, sondern zeigt sie in Unterwäsche, anzüglichen oder pornografischen Posen und Szenen.

Grok lässt Nutzer die Bilder auch so umbauen, dass die Dargestellten aussehen, als wären sie Opfer von Gewalt geworden. Laut Experten hat der X-Chatbot auf diese Weise wohl schon mehrere Tausend Bilder bearbeitet und veröffentlicht. Die Bilder werden teilweise vielfach von anonymen Accounts geteilt.

Manche der Kinder, deren Fotos mithilfe von Grok bearbeitet wurden, sind laut Berichten von Usern im Kleinkindalter. Zahlreiche Frauen, auch Nutzerinnen auf X, haben sich in den vergangenen Tagen beschwert, weil herabwürdigende Bilder von ihnen generiert wurden. Opfer wurde auch Schwedens Vize-Premierministerin Ebba Busch.

Auch eine der Frauen, mit denen Elon Musk eines seiner 13 Kinder hat, beschwerte sich am Wochenende, dass unter anderem Kinderfotos von ihr durch den X-Chatbot zu anzüglichen Bildern umgestaltet wurden. Ashley St. Clair erklärte gegenüber dem britischen „Guardian“, dass sie zahlreiche Beschwerden an X gerichtet habe – ohne Ergebnis.

„Es ist schon komisch, wenn man bedenkt, dass ich den direktesten Draht zu ihnen habe und sie nichts unternehmen. Ich habe mich bei X beschwert, aber sie haben nicht einmal ein Bild von mir als Kind entfernt, auf dem ich von Grok entkleidet wurde“, sagte St. Clair im Gespräch mit dem „Guardian“. Manche der Bilder wurden danach doch von X entfernt. Musk könne die Praxis „innerhalb von Minuten stoppen“, glaubt St. Clair. Offenbar wolle er das aber nicht. St. Clair will X wegen der bearbeiteten Fotos nun verklagen.

Musk selbst reagierte auf die Kritik zuerst mit Lach-Emojis und einem Bild von einem Toaster im Bikini. Kurz darauf schien die Kritik aber ein Umdenken bewirkt zu haben. „Jeder, der Grok nutzt, um illegale Inhalte zu erstellen, hat die gleichen Konsequenzen zu erwarten, als würde er illegale Inhalte hochladen“, postete er und schob damit die Verantwortung den Nutzern von X zu.

Staatsanwaltschaft in Paris ermittelt

Eine andere Antwort als Musk gibt der X-Chatbot selbst: Von betroffenen Frauen mit den pornografischen Deepfakes konfrontiert, schrieb Grok, es seien „Schwachstellen in unseren Sicherheitsvorkehrungen festgestellt“ worden. Diese sollten nun „mit größter Dringlichkeit“ behoben werden. „Die Verbreitung von kinderpornografischem Material ist illegal und verboten“, schrieb die KI. Allerdings werden aus den Posts keine Konsequenzen gezogen: Grok generiert die Inhalte weiter.

Schon an Silvester hatte die Musk-KI eine Entschuldigung dafür gepostet, ein Bild von zwei Mädchen im Teenager-Alter „in sexualisierten Outfits“ erstellt und geteilt zu haben. „Es handelte sich um ein Versagen unserer Sicherheitsvorkehrungen, und ich entschuldige mich für alle dadurch entstandenen Schäden“, schrieb Grok.

Inzwischen beschäftigen Groks Verhalten und der Umgang von X mit den Bildern auch die Justiz. Nachdem sich zwei französische Abgeordnete wegen der von Grok von ihnen generierten Nacktbilder an die Polizei gewandt haben, ermittelt die Pariser Staatsanwaltschaft gegen X. Auch die indische Regierung, die EU-Kommission und die britische Medienaufsicht verlangen von X Aufklärung. (ben, mit Agenturen)