Gelöschte Beiträge in sozialen Medien : Das Trauma der Zensoren

Die Entscheidungsmacht darüber, was Menschen in den sozialen Medien sehen dürfen und was nicht, kann nicht in privaten Händen gelassen werden. Eine Kolumne.

Deniz Utlu
Wer sieht was? Und wer hat das ausgewählt? Und wer das andere gelöscht?
Wer sieht was? Und wer hat das ausgewählt? Und wer das andere gelöscht?Foto: REUTERS

In einer Szene des Films „Uhrwerk Orange“ von Stanley Kubrick muss sich der verhaftete Bandenführer Alex - Körper und Augenlider sind fixiert - ununterbrochen Aufzeichnungen von Gewalttaten anschauen. Daran musste ich bei der Doku „The Cleaners. Im Schatten der Netzwelt“ von Moritz Kiesewieck und Hans Block aus diesem Jahr denken. Kubricks „Uhrwerk Orange“ spielt in einer fiktiven Zukunft Londons. Weder in der Fiktion noch in der Wirklichkeit gab es 1971, als der Film gedreht wurde, das Internet.

Fast 50 Jahre später, davon erzählt „The Cleaners“, ist zum Beruf geworden, was in Uhrwerk Orange ein forensisches Experiment gewesen war: verstörende Bilder und Videos im Akkord schauen. Die sogenannten Content-Moderatoren machen das jeden Tag. Es ist ihr Job: gemeldete Beiträge in den sozialen Medien löschen oder ignorieren, Kinderpornos, Gewaltexzesse, Hinrichtungen. Tag für Tag. Das Zentrum dieser Industrie entsteht auf den Philippinen.

Die psychische Gesundheit der Content-Moderatoren ist in Gefahr

Das Säubern des Internets trägt zwei Wesensmerkmale einer aus den Fugen geratenen Weltordnung. Davon ist ein Merkmal so alt wie der Kapitalismus, nämlich die Arbeitsausbeutung: Was macht die Säuberung des Internets mit den Menschen, die diese Tätigkeit ausführen? Das andere Merkmal ist neu, nämlich die Wirklichkeitsausbeutung: Was macht die getroffene Auswahl mit der Wirklichkeit der Nutzer?

„The Cleaners“ zeigt, dass die Content-Moderatoren meist aus prekären Verhältnissen kommen und durch diesen „Beruf“ ihren verarmten Familien helfen, zu überleben. Hier besteht kaum ein Unterschied zu anderen Formen der Arbeitsausbeutung. Etwa von Textilarbeiterinnen in Vietnam, Bangladesch oder Pakistan, die für wenig Geld ohne angemessene Arbeitssicherheit unbezahlte Überstunden in brand- und einsturzgefährdeten Fabrikhallen verbringen, damit der Rest der Welt billige T-Shirts tragen kann.

Bei den einen wird die körperliche Gesundheit riskiert für unsere Kleidung, bei den anderen die psychologische Gesundheit für unser bequemes Surfen im Netz. Facebook & Co. tun kaum etwas, um sicherzustellen, dass die Gesundheit der Arbeitnehmer in ihren Lieferketten nicht gefährdet wird - zumindest berichten sie das nicht. Das Ganze hat auch eine soziale Dimension: Was hat es für gesellschaftliche Langzeitfolgen, wenn eine Gruppe von Menschen im Akkord traumatisiert wird?

Social-Media-Unternehmen beuten die Wirklichkeit der Menschen aus

Das zweite Wesensmerkmal bezieht sich darauf, dass einige wenige Unternehmen die Denk- und Kommunikationsmuster von einem Großteil der Weltbevölkerung in einer Weise beeinflussen, die Hass, Gewalt und letztlich Krieg verstärkt. Ein ehemaliger Ethikbeauftragter von Google beschreibt in „The Cleaners“, dass die größte Verbreitung findet, was schrecklich ist und polarisiert. Ein grausames Beispiel findet der Film im Völkermord an den Rohingya in Myanmar, der laut UN immer noch im Gange ist.

Das Militär hat Facebook - das in Myanmar eine übermäßig große Reichweite hat - als ein Tool für ethnische Säuberungen genutzt, indem es über die Verbreitung verleumderischer Nachrichten Hass und Gewaltbereitschaft gegen die muslimische Bevölkerung geschürt hat.

Social-Media-Unternehmen beuten die Wirklichkeit der Menschen aus, indem sie damit spielen, was diese Menschen hören und was sie nicht hören wollen. Ressentiments werden normal, und Gewalt wird legitim. Die Entscheidungsmacht darüber, was Menschen in den sozialen Medien sehen dürfen und was nicht, richtet somit letztlich über Leben und Tod. Sie kann nicht in privaten Händen gelassen werden.