Nach den Olympischen Spielen: Sportbund filtert per KI über 500 Hassbotschaften

Der Deutsche Olympische Sportbund (DOSB) wollte die Athletinnen und Athleten während der Olympischen und Paralympischen Spiele gegen Hass und Hetze im Internet schützen. Dafür ging man eine dreimonatige Partnerschaft mit den Sporttechnologie-Unternehmen Sportradar und Arwen AI ein, um mit 23 KI-basierten Filtern, Hasskommentare in Echtzeit herauszufiltern und zu blockieren. Die 472 Sportler und Athletinnen konnten ihre Social-Media-Kanäle freiwillig für das Programm zur Verfügung stellen. Auch auf den Accounts des Sportverbands waren die Filter im Einsatz.

Anstoß für das Projekt gaben unter anderem Vorfälle wie bei den Deutschen Leichtathletik-Meisterschaften Ende Juni. Owen Ansah gelang als erstem deutschen Läufer, die 100 Meter in unter zehn Sekunden zu laufen. Der Sportler des Hamburger SV brauchte nur 9,99 Sekunden für die Prestige-Strecke. Doch nach seinem Erfolg musste er sich mit zahlreichen rassistischen Kommentare im Netz herumärgern, die ihm aufgrund seiner Hautfarbe das Deutsch-sein absprachen. Dieser und andere Fälle alarmierten den Sportbund vor den Olympischen Spielen zu handeln.

Mehr als 100.000 Posts wurden überprüft

Nun hat sich der DOSB an die Auswertung gemacht, die Tagesspiegel Background exklusiv vorliegt. Demnach wurden in der Zeit von Juli bis Anfang September 100.000 Kommentare, Posts und Direktnachrichten von der Künstlichen Intelligenz gescannt, bei 60.000 schlug die Software an, weil in den Botschaften ein Begriff enthalten war, auf den die KI trainiert wurde. Davon hatten 4000 Kommentare tatsächlich eine negative Aussage und wurden daraufhin automatisch gesperrt. Das heißt, die Wortmeldung war sowohl für den Inhaber des Profils als auch für Follower nicht mehr sichtbar.

Diese 4000 Beiträge untersuchte man genauer und gab letztendlich über 500 davon zur weiteren Auswertung an die Generalstaatsanwaltschaft in Frankfurt am Main, die diese jetzt auf Strafbarkeit überprüft. So waren einige Athleten schon vor Beginn der Spiele rassistischen Angriffen ausgesetzt. Während der Wettbewerbe wurden Sportler von Nationalisten instrumentalisiert, wenn sie für das deutsche Team Medaillen gewannen, aber theoretisch auch für das Heimatland eines Elternteils antreten könnten.

Die Kooperation mit der Staatsanwaltschaft bestand seit Mai, sodass DOSB-Mitarbeiter Schulungen erhalten hatten, um Beleidigungen und Bedrohungen sicherer zu identifizieren. Sie sollten die Vorbewertung vornehmen. Etwa die Hälfte der gesperrten Posts wurde jedoch nicht herausgefiltert, weil die Sportlerinnen sexistisch angegriffen, rassistisch verfolgt oder aus anderen Gründen angegangen wurden, sondern es war schlichtweg Spam. Die Nachrichten waren von Bots verfasst worden und enthielten sogenannte Affiliated Links oder Sexangebote, an denen pro Klick verdient wird.

Noch in diesem Jahr will der DOSB entscheiden, ob er das System bei den nächsten Spielen 2028 in Los Angeles erneut anbieten wird. „Es war eine Premiere, aber bereits die Anzahl der gefilterten Beiträge zeigt die Notwendigkeit dieses Instruments. Auch weil der Bedarf vonseiten der Athleten noch wachsen wird, wenn sich das Angebot weiter herumspricht“, sagte ein DOSB-Sprecher zu Tagesspiegel Background. Anfangs war die Resonanz beim Team Deutschland nicht so groß wie angenommen, nicht einmal jeder Zehnte hatte die KI eingesetzt. Als es zu ersten Vorfällen kam, rückte das Angebot des Sportbunds bei den Teilnehmern wieder in Erinnerung.