Wissenschaftler des Labors Graphika, das sich auf die Erforschung von Desinformationstechnologie spezialisiert hat, haben zwei synthetische Videos in chinesischen Social-Media-Channels identifiziert, die offensichtlich zur Propaganda für die kommunistische Partei Xi Jinpings dienen sollten. Vor rund einem Jahr war ein Deepfake-Video einer angeblichen Kapitulation der Ukraine aufgetaucht, meines Wissens der erste Fall von state-sponsored AI-Manipulation.

Die Deepfake-Videos in diesem Fall waren "Serienproduktionen von der Stange": Das Londoner Start-up Synthesia bietet über 85 synthetische Charakter, vom alten weißen Businessman bis zur Hijab tragenden Muslima, die vorwiegend für die Herstellung billiger Videos für Human-Resources-Training oder Werbung verwendet werden.

Während die state-sponsored Nutzung von Deepfake-Technologie zur Verbreitung von Propaganda sicherlich Anlass zur Sorge bereitet, so unschlüssig bin ich über ihren tatsächlichen Impact. Vor wenigen Wochen erst kam eine neue Studie zu dem Schluss, dass die Versuche von "Putins Troll Army" (der russischen "Internet Research Agency"), Einfluss auf die 2016er US-Wahlen zu nehmen, anscheinend wirkungslos verpufften, und sie ist nicht die erste ihrer Art.

Der Anstieg an potenziellem Produktionsvolumen für Desinformation durch Fake News und mit AI-Systemen erzeugte Deepfakes führt anscheinend nicht automatisch zu einem tatsächlich spürbaren Einfluss. 

Andererseits könnten die psychischen Auswirkungen einer ständig als "möglicherweise nicht real" wahrgenommenen medialen Wirklichkeit subtiler und langfristiger sein, als es in diesen Studien untersucht wurde: Peter Pomerantsev schreibt in seinem 2014 erschienenen Buch "Nothing Is True and Everything Is Possible" von den gesellschaftlichen Auswirkungen einer Medienlandschaft, die von Propaganda und politischen Interessen in Putin-Russland nicht mehr zu unterscheiden ist. Er beschreibt eine Gesellschaft, die medialen Inhalten gar nicht mehr traut und eine zutiefst zynische Haltung nicht nur gegenüber den Medien entwickelt. 

Dazu benötigt es meines Erachtens keine state-sponsored Deepfake-Propaganda: Vor wenigen Wochen wurde ein Illustrator auf einer Kunst-Plattform gesperrt, weil sein Stil dem einer generativen AI zu ähnlich war. 

Es sind diese subtilen Auswirkungen auf das menschliche Vertrauen in seine Wahrnehmung, die in einer Abwehrreaktion auf Fake-Inhalte zu Überreaktion und False Positives neigt, die mir sehr viel mehr Sorge bereitet als der offenbar vernachlässigbare direkte Einfluss von Desinformation.