Auf diesem Kanal hatte ich bereits mehrfach auf die schon länger zu beobachtenden Auswirkungen der Massenverschlüsselung – vor allem durch WhatsApp – hingewiesen. Kurz zusammengefasst: Die eh schon außer Kontrolle geratenen Hass-Triaden, die Social Media auf der ganzen Welt ins Werk gesetzt hat, sind in Ende-zu-Ende verschlüsselter Messenger-Kommunikation auch noch grundsätzlich unmoderierbar. Wir reden hier nicht von ein bisschen "Privatsphäre", sondern von unzähligen Lynchmobs, dem Wiederaufstieg des Faschismus in vielen Ländern, bis hin zu realen Genoziden, die zumindest zum Teil auf den verschlüsselten Kanälen von WhatsApp organisiert wurden.

Ich hatte mich deswegen auch bei der Ankündigung Facebooks, nun alle seine Messengers Ende-zu-Ende zu verschlüsseln, gefragt, welche Strategie sie diesen Seiteneffekten entgegensetzen wollen.

Der verlinkte Artikel ist zwar aus einer Privatsphäre-verabsolutierenden Sicht und damit entsprechend alarmistisch, beleuchtet aber Facebooks angekündigte Strategie. Facebook will anscheinend eine Art automatisierter Vormoderation direkt auf den Devices (iPhones, Android-Geräten) vornehmen, das heißt, bevor die Nachricht verschlüsselt abgesendet wird. Im Artikel wird das als ein Bruch der Verschlüsselung gesehen, insbesondere, weil Facebook auch beschreibt, dass eine fragliche Nachricht bei Verdachtsfällen auch auf Facebook-Server zur weiteren Analyse gesendet werden könnte. Wenn das der Fall ist, ist das in der Tat ein Umgehen der Verschlüsselung und man könnte sich der Integrität der Kommunikation nicht mehr sicher sein.

Ich finde den Vorschlag dennoch bedenkenswert. Es steht hier die Integrität von Kommunikation vs. echten Menschenleben, da sollte man sich die Entscheidung nicht zu einfach machen.

Skeptisch bin ich hingegen hinsichtlich der Effektivität einer automatisierten Vormoderation. Eine solche könnte nur mittels Trainingsdaten vergangener Fälle implementiert worden sein, wäre entsprechend leicht zu umgehen und hätte nur ein endliches Repertoire von Heuristiken. Wahrscheinlich mit sehr unterschiedlicher Qualität in den verschiedenen Sprachen.

Ich finde dennoch gut, dass Facebook zumindest nach Lösungen sucht, Moderation in Ende-zu-Ende-verschlüsselter Kommunikation irgendwie möglich zu machen. Leider glaube ich, dass alle Versuche am Aufschrei der Privatsphäre-Fetischisten scheitern werden.