Anzeige
Anzeige
Anzeige
Anzeige
03 The Cleaners Gebrueder Beetz Filmproduktion
Filmszene aus "The Cleaners" (Bild: Gebrüder Beetz Filmproduktion)
Facebook Social Media Cindy Michel

"Der dreckigste Job des Internets"

Kinderpornografie, Bombenterror und Hinrichtungen: In sozialen Netzwerken landet viel Dreck. "Gesäubert" wird das Netz von Content Moderatoren. Die Doku "The Cleaners" begleitet diese digitalen Reinigungskräfte in Manila und wirft dabei die Frage auf, wie sich Online-Zensur auf die Demokratie auswirken kann.

Anzeige
Anzeige
Anzeige

Es ist Nacht in Manila. Kalte, bunte Neonlichter spiegeln sich in einem riesigen, gläsernen Wolkenkratzer, mitten im Trubel der Millionenstadt. In einem der oberen Stockwerke, weit über hupenden Autoschlangen, die sich stockend über mehrstöckige Straßen schieben, sitzt eine Person an einem Rechner.

Nur das Flackern des Bildschirmes erhellt ihr Gesicht. Schnitt. Im Close-up reflektiert der Content, den es zu prüfen gilt, in den Augen. "Ich muss anonym bleiben, ich habe einen Vertrag unterschrieben, der mir verbietet, die Menschen mit denen ich arbeite, zu nennen", sagt sie. "Warum ich trotzdem mit euch spreche? Weil die Welt wissen soll, dass es uns gibt. Dass es jemanden gibt, der soziale Netzwerke kontrolliert und versucht, sie nach bestem Wissen sicher für alle zu gestalten."

Sie ist Content Moderatorin in der Hauptstadt der Philippinen und eine von fünf Protagonistinnen und Protagonisten in dem Dokufilm The Cleaners. Deren "einzige" Aufgabe ist es, "den Dreck im Internet wegzuräumen", wie einer von ihnen später im Film erklären wird.

Tausende digitale Reinigungskräfte

Und von diesen digitalen Reinigungskräften gibt es allein auf den Philippinen Zehntausende. Laut "Zeit Online" weltweit sogar bis zu 100.000. Diese Zahl ist nicht verwunderlich, wenn man bedenkt, dass minütlich etwa 450.000 Tweets abgesetzt, 500 Stunden Content auf YouTube geladen und 2,5 Millionen Posts auf Facebook geteilt werden.

Anzeige

"Das ist eine riesige Schattenindustrie", erklärt Regisseur Moritz Riesewieck bei der ZDF-Talkshow Markus Lanz. "Facebook, Google und Co. beauftragen Drittfirmen, Outsourcing-Companies, die dort in Manila diese Arbeit für sie ausführen müssen." So können die Macher aus dem Silicon Valley mit Recht behaupten, dass sie keine jungen und ungelernten Arbeitskräfte für diesen Job beschäftigen. Meist seien die Content Moderatoren gerade mal 18 Jahre alt, noch nie aus ihrer Heimat heraus gekommen und ohne jegliche Vorbildung für diese Aufgabe. "Ganz im Gegenteil", erläutert Riesewieck bei der Talkshow weiter, diese Leute würden auf der Straße angesprochen und schlichtweg vom Fleck weg akquiriert werden. "Viele erfahren erst während des Trainings für welche Arbeit sie geladen wurden, nämlich für den dreckigsten Job des Internets." Doch eine Anstellung in einem klimatisierten Bürogebäude klingt wohl vielversprechender, als der auf einer analogen Müllkippe. Denn berufliche Perspektiven auf den Philippinen sind dürftig.

Der Preis für Prestige und Klimaanlagen ist hoch

Acht bis zehn Stunden am Tag müssen sie sich durch Content klicken, der vorher von speziell trainierten Algorithmen als fragwürdig markiert und an die Content Manager zur Überprüfung weitergeleitet wurde. Sie entscheiden dann, ob er bleiben darf oder gelöscht werden muss. Diese Uploads lassen oftmals ziemlich tief in die Abgründe der Menschheit blicken: Kinderpornografie, Hinrichtungen, Live-Suizide, terroristische Propaganda – der ganz normale Alltag von Content Managern. Wie eine Maschine klicken sie sich durch blutige Enthauptungen, Fotos von Leichen oder Kindesmisshandlungen.

Viele verkraften diese Bilder nicht, können diese Eindrücke nicht mehr aus ihren Köpfen löschen, zerbrechen daran.

"Ich machte mir Sorgen um einen Kollegen, der nicht zur Arbeit erschienen war", berichtet einer der Cleaner. Nach seiner Schicht sei er dann zu ihm gefahren – und fand ihn dort tot vor, an einem Seil baumelnd, das Genick gebrochen. "Der Suizid wurde geheim gehalten, ein Unfall eben", erklärt er weiter. Psychologische Betreuung für die Arbeiter gebe es keine, erläutert Regisseur Hans Block. Und das, obwohl die psychische Belastung extrem hoch sei, mit einem Kriegseinsatz zu vergleichen. "Du darfst die Arbeit einfach nicht an dich heranlassen", meint ein anderer Cleaner.

Doch nicht immer muss vom Algorithmus als fragwürdig markierter Content auch "böse" sein. Die Aufgabe der Cleaner ist es, markierten Inhalt in seinem Kontext einzuordnen. Aber das gelingt nicht immer. Wie etwa in der Kunst. Wo beginnt Kunst und wo endet sie? Der Film etwa zeigt Illma Gore, eine Künstlerin aus den USA, die den nackten Donald Trump mit winzigem Penis gemalt hat. Sie postet ein Foto des Ölgemäldes mit dem Titel "Make America Great Again" online und es geht viral. Sogar Donald Trump habe in einer seiner Debatten darauf reagiert, sagt sie. Und plötzlich war es aus dem Netz verschwunden, ihr kompletter Account gelöscht. Für Gore unverständlich, da "es Kunst ist, ein fiktiver Körper mit Trumps Kopf. Was bitte ist an einem nackten Menschen so schlimm?" Die Content Moderatorin hingegen erkannte keine Kunst, nur das winzige Geschlechtsteil und somit die Diffamierung Trumps – also "löschen".

Bildmaterial aus Kriegsgebieten wird zum Verdruss von NGOs gelöscht

Bildmaterial aus syrischen Kriegsgebieten, das Bombenangriffe und gegebenenfalls Tote zeigt, wird von den Cleaners, basierend auf ihren Richtlinien zu Terrorismus oder verstörenden Bildern, meist gelöscht. Ein großes Problem für NGOs. "In Syrien ist mittlerweile fast jeder ein Aktivist. Die Menschen dort dokumentieren jeden Luftangriff, die Zerstörung, die Opfer. Fotos und Videos veröffentlichen sie auf ihren Online-Accounts", berichtet Abdulwahab Tahhan, Mitarbeiter des journalistischen Projekts Airwars. Seine Organisation nutze das gepostete Material um via GPS-Daten Angriffe genau zu lokalisieren. So sorge man für mehr Transparenz und zeichne ein authentisches Bild des Krieges, so Tahhan. "Ohne unsere Arbeit hätten die Armeen und Regierungen ein leichteres Spiel, es würden mehr Zivilisten sterben." Die Bilder und Videos seien Teil des Krieges und beinhalten wichtige Informationen. "Wir würden auch lieber über Fußball oder das Kaffeetrinken berichten, können wir aber nicht, denn dort ist Krieg."

Die digitale Zensur der Meinungsvielfalt

Ganz langsam und subtil, und doch von Minute ein an, rollt die Doku die Frage auf, was diese Online-Zensur mit den Cleanern, aber auch uns Usern anstellt. Wie wirkt sie sich auf die Demokratie aus?

Einer, der seine Meinung dazu äußert, ist David Kaye, UN-Sonderbeauftragter für Medien. Er befürchtet, dass diese digitale Zensur die Meinungsvielfalt extrem beeinflussen und der Bevölkerung ihr Bewusstsein für kritisches Denken rauben könne. Antonio Garcia Martinez, ehemaliger Produktmanager bei Facebook, gibt zu Bedenken, dass Social-Media-Plattformen den Hass zwischen zwei extremen Lagern weiter schüren können: "Früher hatte jeder das Recht auf eine freie Meinung, heute auf seine eigene Realität und seine eigene Wahrheit, seinen eigenen Satz Fakten sogar", sagt er. Denn Facebook zeige jedem eben genau das, was er sehen möchte. "Was er nicht will, wird einfach gelöscht oder rausgefiltert." Dies sei eine große Gefahr für die Demokratie.

Schnittbilder in Gerichtssäle, in dem sich Vertreter der Social-Media-Giganten für Fehltritte wie etwa Kinderpornografie auf ihren Plattformen oder der Verbreitung von Fake News behaupten müssen, lassen die aufpolierte Fassade der weißen Männer aus dem Silicon Valley bröckeln. Die Kamera bleibt ganz nah an ihren Gesichtern und macht das, was sie am besten kann: Sie seziert und legt offen, was darunter schlummert. Hilflosigkeit. Die Frage nach einer Lösung, nach einer adäquaten Kontrollfunktion, bleibt unbeantwortet.

Selbst die überzeugte Cleanerin, die sich zu Beginn des Films klar für die Säuberung des Datendrecks entschied, um einem Leben auf der analogen Müllhalde zu entkommen, überlegt nach knapp 90 Minuten, ob sie sich wohl selbst belogen habe, beginnt zu zweifeln: "Wir müssen aufwachen und uns fragen, warum wir das machen. Damit wir das Internet für andere sicherer machen, während wir uns dabei selbst gefährden? Wir müssen der Realität ins Auge blicken."

Nur einer bleibt souverän, unbeeindruckt und gut gelaunt am Ende der Doku: Mark Zuckerberg. "Du musst ein Optimist bleiben, wenn du die Welt verändern willst", sagt er bei einer Facebook-Veranstaltung und grinst in die Kamera.

Der Trailer von "The Cleaners"

Anzeige
Anzeige
Verlagsangebot
Anzeige
Anzeige
Aktuelle Stellenangebote
Alle Stellenangebote