Hass, politische Propaganda, Falschnachrichten: Lange hatte Facebook sich selbst vor allem als Technologiekonzern gesehen und nicht als Akteur, der mit seiner Plattform, Designentscheidungen und Algorithmen den öffentlichen Diskurs stark beeinflusst – und viel zu spät Strategien entwickelt, um seiner eigentlichen Rolle gerecht zu werden.

Jetzt steht der Konzern vor der Mammutaufgabe, Milliarden von Posts zu filtern und die Interessen diverser gesellschaftlicher Gruppen auszuhandeln. Es ist ein Balanceakt zwischen Zensurvorwürfen, der Gewichtung kontroverser politischer Ideen und dem Vorwurf, zu wenig zu filtern – eine enorme gesellschaftliche Verantwortung und ein "impossible job", der kaum zu bewältigen ist.

Facebook believes highly-nuanced content moderation can resolve this tension, but it's an unfathomably complex logistical problem that has no obvious solution, that fundamentally threatens Facebook’s business, and that has largely shifted the role of free speech arbitration from governments to a private platform.

In ihrer Analyse für Motherboard beschreiben Jason Koebler und Joseph Cox wie die Content-Moderation bei Facebook funktioniert und wie der Konzern versucht, etwa durch eine wachsende Filter-Armee, Content-Skandal-Meetings, Algorithmen oder Hintergrundrunden mit Experten Lösungsansätze zu finden. Algorithmen und Tausende von Angestellten filtern Inhalte, doch die Regeln sind umstritten und bei Milliarden Posts kommen immer wieder Tausende von Fehlern vor.

Längst ist Content-Moderation zur Chefsache geworden. Das Kernproblem ist aber, dass Facebook die Content-Frage gar nicht alleine lösen kann oder sollte, weil dahinter zutiefst politische Fragen stehen.

Facebook's solution to this problem is immensely important for the future of global free expression, and yet the policymaking, technical and human infrastructure, and individual content decisions are largely invisible to users.