© dpa/AP/Gene J. Puskar
Kritik an Facebook-Konzern: Meta-Chatbot bestreitet Attentat auf Donald Trump
Der KI-Chatbot von Meta hat teilweise behauptet, das Attentat auf Ex-Präsident Trump habe nie stattgefunden. Der Konzern nennt den Vorfall „unglücklich“ und verweist auf Software-Fehler.
Stand:
Ein KI-Chatbot, der das Attentat auf Ex-Präsident Donald Trump bestritt, bringt den Facebook-Konzern Meta in Erklärungsnot. Meta verweist auf sogenannte „Halluzinationen“, bei denen Software mit Künstlicher Intelligenz Dinge einfach erfindet. Die Branche fand bisher keine grundsätzliche Lösung für das Problem.
Meta musste sich nach Kritik aus dem politischen Lager der Trump-Anhänger rechtfertigen. Angeprangert wurde, dass sich der Chatbot Meta AI erst weigerte, Fragen zu dem Attentat auf den Ex-Präsidenten zu beantworten – und dann zum Teil behauptete, es habe nie stattgefunden.
Der Konzern erklärte in einem Blogeintrag, man habe Meta AI zunächst mit Absicht nicht über das Attentat am 13. Juli sprechen lassen. Denn rund um schlagzeilenträchtige Ereignisse gebe es oft widersprüchliche Angaben und unbegründete Spekulationen bis hin zu Verschwörungstheorien.
Aber auch nachdem der KI-Chatbot mit Informationen über das Attentat gefüttert worden sei, habe er „in wenigen Fällen“ behauptet, es sei nicht passiert, räumte Meta ein. Das sei „unglücklich“, aber keine Absicht gewesen.
Empfohlener redaktioneller Inhalt
An dieser Stelle finden Sie einen von unseren Redakteuren ausgewählten, externen Inhalt, der den Artikel für Sie mit zusätzlichen Informationen anreichert. Sie können sich hier den externen Inhalt mit einem Klick anzeigen lassen oder wieder ausblenden.
Ich bin damit einverstanden, dass mir der externe Inhalt angezeigt wird. Damit können personenbezogene Daten an Drittplattformen übermittelt werden. Mehr Informationen dazu erhalten Sie in den Datenschutz-Einstellungen. Diese finden Sie ganz unten auf unserer Seite im Footer, sodass Sie Ihre Einstellungen jederzeit verwalten oder widerrufen können.
Chatbots geben falsche Antworten trotz richtiger Informationen
Die „Halluzinationen“ sind ein allgemeines Problem von KI-Chatbots und haben damit zu tun, wie die Software funktioniert. Die Programme werden zunächst mit riesigen Mengen an Informationen trainiert. Bei ihren Reaktionen auf Nutzeranfragen wägen sie dann auf dieser Basis Wort für Wort ab, wie ein Satz wahrscheinlich weitergehen sollte.
Dadurch kann die Software völlig falsche Aussagen zusammenwürfeln, auch wenn sie nur mit korrekten Informationen angelernt wurde. KI-Entwickler versuchen, das Problem mit Hilfe zusätzlicher Leitplanken für die Programme in den Griff zu bekommen.
Faktencheck-Label auf dem falschen Foto
Bei einem zweiten Problem wurde ein Foto, auf dem Trump mit seinen Leibwächtern unmittelbar nach dem Attentat zu sehen ist, fälschlicherweise mit einem Faktencheck-Label versehen. Damit war ursprünglich eine manipulierte Version des Bildes markiert worden, in der ein Lächeln auf den Gesichtern der Bodyguards ergänzt wurde.
Doch für Metas automatisierte Systeme war der Unterschied zwischen den beiden Fotos schwer zu erkennen – und sie fügten das Faktencheck-Label auch zum Original-Foto hinzu.
Bei dem Attentat hatte ein Mann bei einem Wahlkampfauftritt im Bundesstaat Pennsylvania auf Trump geschossen. Die Kugeln töteten einen Zuschauer und verwundeten zwei weitere. Der Ex-Präsident wurde am Ohr getroffen. (dpa)
- showPaywall:
- false
- isSubscriber:
- false
- isPaid: