Theresa Locker und Sebastian Meineck haben eine Recherche über die Möglichkeit veröffentlicht, Deepfake-Pornografie mit millionenfach installierten Face-Swap-Apps auf dem Handy zu erstellen. Ich piqe hier den Bericht auf Netzpolitik.org, die Recherche findet sich hinter einer Bezahlschranke auf Spiegel Online.

Die Journalisten testeten drei der populärsten Deepfake-Mobile-Apps: FaceMagic, Reface und FacePlay. Alle drei eignen sich dafür, non-konsensuale sexualisierte Bilder zu produzieren, mit FaceMagic bis hin zum Hardcore-Porno. FaceMagic machte in der Vergangenheit mit der Möglichkeit, Pornos mit den Gesichtern von Fremden zu produzieren, auch explizit Werbung und schaltete diese – selbstverständlich – auf Porno-Websites. Die non-konsensuale Erstellung von Pornografie gehört für FaceMagic also zum Geschäftsmodell.

Die Debatte ist alles andere als neu. Die ersten Meldungen über das damals neue Phänomen erschienen im Winter 2017 und ihre Viralität half dabei, den Namen "Deepfake" für AI-basierte Face-Swaps zu etablieren, die in den Jahren zuvor in Expertenkreisen als Face2Face bekannt geworden waren. Die Möglichkeiten für User nun auch per Mobile App mit einem Klick jedes Gesicht auf jedes Video flanschen (ein Fachbegriff für "dicht anbringen") zu können – inklusive Pornovideos – sind eine Folge der fortschreitenden Demokratisierung dieser Technologien.

Zusammen mit neuen Bildgeneratoren wie Dall-E ergibt sich hier das größere Bild einer Technologie, die es jedem Nutzer erlaubt, jeden Gedanken, jede Idee und jeden Traum ohne Kenntnisse in der Erstellung von Fotomontage, Grafik oder Malerei (und schon bald auch: Animation, Film und Video) mit wenigen Klicks erstellen zu können. Die Technologien der sogenannten Creative AI sind die Verwirklichung einer "engine for the imagination", so David Holz, Gründer des Bildgenerators Midjourney. Und diese Vorstellungswelten beinhalten nicht nur wilde Bilder von Fantasy-Drachen in allen Spielarten, sondern auch sexuelle Fantasien, die man nun in einem Klick in non-konsensualer Pornografie abbilden kann.

AI-Technologien und ihre Möglichkeiten stellen die Politik vor bislang unbekannte Probleme und es verschwimmen die Grenzen zwischen den Rechten am eigenen Bild, Privatsphäre und der Freiheit der eigenen Fantasie. Wenn AI-Tools eine Maschine ermöglichen, die Träume abbilden kann – wie weit gehen die Befugnisse der Politik, diese Träume zu regulieren?