Wenn es um Content-Moderation geht, bin ich ein "maximalistischer Humanist". Ich denke nicht, dass die Myriaden von potenziellen Konflikten und Problemen, die sich durch digitale Vernetzung von Menschen ergeben, von künstlichen Intelligenzen wirklich aufgefangen werden können. Hatespeech-Filter können sicherlich ein Werkzeug sein, aber die (para-)sozialen Beziehungen in sozialen Medien sind vielschichtig und komplex und erfordern meines Erachtens noch für eine sehr lange Zeit menschliches Urteilsvermögen und soziale Fähigkeiten, die (bislang) noch Menschen vorbehalten sind. Auch deshalb lagern Plattformen die Arbeit der Content Moderation gerne an unbezahlte Arbeitskräfte aus der Community aus. Vor fünfzehn Jahren bezeichnete man das im Kontext des damaligen Buzzwords Web2.0 noch als "AAL-Prinzip": Andere arbeiten lassen.

Nun haben zwei Studien den Wert der Moderationsarbeit ermittelt, der auf der Plattform Reddit von unbezahlten Moderatoren erarbeitet wird. Reddit ist eine der ältesten Social Media-Plattformen im Netz und weist einige interessante Eigenschaften auf, die sie von etwa Facebook oder Twitter unterscheiden. So gruppieren sich Menschen auf Reddit rund um sogenannte Subreddits zu unterschiedlichsten Themen, die persönlichen Accounts der User treten gegenüber diesen Interessensgruppen in den Hintergrund, und alle Teilnehmer, inklusive der Moderatoren, agieren auf Reddit viel mehr als "Schwarm", als das auf Twitter oder Facebook der Fall ist, wo der einzelne Account viel eher den Fokus der Sichtbarkeit ausmacht.

Vor diesem Hintergrund ist es interessant, wenn die beiden Studien nun zu dem Ergebnis kommen, dass die unbezahlten Moderatoren auf Reddit einen Wert von mindestens 3,4 Millionen Dollar erwirtschaften, oder rund 3% von Reddits Umsatz. Eine Zahl, die meiner persönlichen Einschätzung sehr viel zu niedrig ausfällt, auch da Content Moderation von Plattformen intern bereits als "gefährlicher Beruf" anerkannt wurde und manche Arbeitsverträge sogar "PTSD-Klauseln" enthalten. Die psychologischen Folgen des Berufs sind bereits seit Jahren bekannt. (Ich frage mich, ob die Wissenschaftler in ihrer Einschätzung über den Wert der Content Moderation die relative "Gefährlichkeit" der Subreddits in ihre Berechnungen mit einbezogen – die Moderation eines Subs namens "Weird Brutal Crap from the Underground" ist sicherlich ein härterer Job als die Moderation des Subs für die Sendung mit der Maus.)

Meines Erachtens werden die explosionsartig ansteigende Zahl der (para)sozialen Beziehungen auch neue "Sozialarbeiter"-Jobs erfordern, "digitale Streetworker" etwa, die zwischen "Trollbanden" und Opfern vermitteln, oder eben hauptberufliche Content-Moderatoren, deren Job weit mehr beinhaltet, als Bilder zu löschen. 

Eine genaue Taxierung des Wertes dieser Arbeit ist überfällig.