Müllhalde der sozialen Medien

Enthauptungen, Vergewaltigungen, Verstümmelungen – wer säubert eigentlich unsere sozialen Netzwerke von dem ganzen Müll? Moritz Riesewieck, 30, Theaterregisseur aus Berlin, suchte auf den Philippinen nach der „digitalen Müllabfuhr.“ Und fand eine sehr diskrete Branche.

jetzt: Moritz, wie geht es jemandem, der zehn Stunden am Tag aussortiert, was wir nicht sehen wollen?

Moritz Riesewieck: Unterschiedlich. Manche "Content Moderators" sagen „ich komm klar“. Lieber so eine Arbeit als physisch dreckige". Aber dann gibt es die, die den ganzen Tag bestialische Bilder sehen und Schaden nehmen. Die klagen über Depressionen, Niedergeschlagenheit oder Verlust der Libido auf Grund der Auseinandersetzung mit schlimmsten Folter-Pornos. Manche sind regelrecht traumatisiert, ohne es zu erkennen und darüber sprechen zu dürfen, was das Trauma noch verschärft. 

Warum tut man sich sowas an? 

Man verdient zwei bis sechs Dollar die Stunde, das ist viel für die Philippinen. In einer Gesellschaft, in der sogenannte "Müllmenschen" davon leben, in Müllbergen zu graben, und quasi dort leben, ist ein Job am Computer, auch wenn er belastend ist, natürlich eher angesehen.

Wer bringt das Zeug in Umlauf?

Unter Milliarden Menschen gibt es eben auch genug Irre. Und nur ein paar Hunderttausend Content Moderators. Deswegen gibt es mehr als genug zu tun. Jedes zehnte Bild, das bei ihnen aufläuft, ist auch in irgendeiner Form extrem. 

Kann denn ein Algorithmus das nicht per Bilderkennung automatisch machen?

Doch, es gibt eine Vorauswahl. Aber auch sehr viel Material, dessen Status Auslegungssache ist. Das muss von Menschen sortiert werden, die harmlose Bilder von gefährlichen unterscheiden können. Maschinen sind noch nicht genau genug. Oder werden es auch nie sein. Denn etwa Ironie zu erkennen und etwas in einen Kontext einzuordnen, fällt ja schon Menschen schwer.

"Was Kunst genau ist, oder auch Terror, das wird letztlich den Moderatoren überlassen. "

Gibt es ein Regelwerk? Wie werden die Arbeitskräfte geschult? 

Was uns beschrieben wurde, waren Regelwerte, die viele Grauzonen lassen. Zwar werden sie einerseits ganz konkret: „Cameltoes“ oder Male von Missbrauch sind zum Beispiel Tabu. Aber was Kunst genau ist, oder auch Terror, das wird letztlich den Moderatoren überlassen. 

Warum boomt dieses Geschäft ausgerechnet auf den Philippinen?

95 Prozent der Philippinos sind katholische Christen. Sie kennen unsere westlichen Moralvorstellungen. Sie sind mit dem gleichen Codex aufgewachsen, sogar eher strenger erzogen. Der Katholizismus ist dort teilweise skurril. Manche Gläubige lassen sich zur Schau ans Kreuz nageln, leben ihre Religion und den Opferkult sehr offensiv aus. So verstehen sie auch Ihren Job. Sie opfern sich für unsere digitalen Sünden. 

Wie schwer war es, Menschen zu finden, die von ihrem Arbeitsalltag erzählen?

Wir waren vier Wochen dort unterwegs, aber nur wenige wollten mit uns vor laufendem Mikrofon reden. Wenn, dann kam der Kontakt über eine Freelance-Plattform zustande – also meistens anonym und oft nur über Skype. Dafür haben wir zum Beispiel mit einer Psychologin gesprochen, die sich um die Moderatoren kümmert.

Was sagen die Netzwerke selbst dazu? Konntest du mit Facebook oder YouTube sprechen?

Noch schweigen sie zu diesem Outsourcing lieber. Ihre Dienstleiter, also große Firmen wie „Task us“, haben uns zwar Audienzen gewährt, aber uns dann nicht mal die wirklichen Büros am Stadtrand gezeigt. Die Räume, die wir gesehen haben, sehen dann tatsächlich nach westlichen Start-Up aus. Die Kabinen, in denen die Arbeiter tatsächlich sitzen, leider ein bisschen anders.