"Deepfakes" sind das neuste Angstszenario in den Medien. Mit Deep-Learning-Algorithmen lassen sich immer besser Videos produzieren, in denen man Leute des öffentlichen Lebens (von denen existieren zumindest genug Trainings-Bilder), immer glaubwürdiger Dinge tun und sagen lassen kann, was man möchte.

Fake News werden also jetzt mittels KI-produziertem Bildmaterial immer glaubwürdiger und am Ende existieren vielleicht von jedem/r von uns Pornos!

Diese Panik zeugt von einer naiven und unterkomplexen Vorstellung davon, wie Medien funktionieren. Natürlich können Medien täuschen. Das tun sie, seit es sie gibt. Aber wir Menschen sind den Medien nicht schutzlos ausgeliefert. Zu allen Medien entwickelt sich eine Mediennutzungskultur - es entwickeln sich Praktiken und kritische Diskurse, die den Umgang mit Medien begleiten und bestimmen.

Menschen sind keine dummen Schafe, die alles glauben, was man ihnen zeigt, sondern sind auf ganz andere Arten bescheuert.

Vor allem ist diese Panik a-historisch. Manipulation von technischen Medien existiert seit Stalin und spätestens mit Photoshop hat seit Ende der 90er jede/r die Möglichkeit, Fotos zu fälschen. Nach der Logik der Panikmacher müssten wir seitdem jeden Tag auf 12 gefälschte Fotografien reingefallen sein.

Stattdessen vertrauen wir schon lange nicht mehr auf jeden Fotobeweis, den uns irgendwer vorlegt. "Shopped!" rufen wir in den Kommentaren, wenn uns irgendwas unplausibel erscheint. Weil wir wissen, wie leicht Fotos fälschbar sind, beziehen wir eine ganze Menge anderer Parameter zur Plausibilitätsprüfung hinzu: Wer zeigt mir das Bild und in welchem Kontext? Gibt es korrespondierende Aufnahmen aus anderen Winkeln und von anderen Menschen? Gibt es Zeugen, die das Ereignis bestätigen, oder widersprechen, etc.

Plausibilitätsprüfungen sind schwierig und natürlich fallen wir hier und da trotzdem auf gefälschte Fotos rein und natürlich wird das auch bei Deepfakes passieren - vor allem am Anfang. Aber das ist kein Grund in Panik zu verfallen, das rüttelt sich zurecht.

Der gepiqde Text geht in dieselbe Richtung und kommt zu dem Schluss:

If you want a vision of the future, don’t imagine an onslaught of fake video. Imagine an onslaught of commenters calling every video fake. Imagine a politician saying “he has not been working out at the gym in a while, and his body isn’t as built as in the video,” forever.

Und das ist zumindest für diejenigen unter uns eine gute Nachricht, von denen irgendwann tatsächlicher Homeporn geleakt wird. Das nennt man "plausible Denyability". Danke, KI!