Eine beliebte Netz-Binsenweisheit besagt, dass technologische Innovationen maßgeblich durch die Pornografie-Branche vorangetrieben und popularisiert werden. Der vorliegende piq ist ein Paradebeispiel dafür. Ein einzelner, anonymer Reddit-Nutzer hat frei verfügbare Software genutzt, um eine Künstliche Intelligenz darauf zu trainieren, die Gesichter bekannter Schauspielerinnen automatisiert und dynamisch in Pornofilme zu integrieren. Nicht perfekt, aber gut genug, um die gesellschaftlichen Implikationen zu verdeutlichen. »This is no longer rocket science«, äußert sich der KI-Forscher Alex Champandard gegenüber Samantha Cole von Motherboard. Was vorher noch ein Hollywood-Studio beschäftigte, lässt sich nun von einer Einzelperson und mit handelsüblicher Hardware stemmen. Bald wird vielleicht jeder so umkompliziert Fake-Videos erstellen können, wie zuvor noch Urlaubsfotos, die wie ein Picasso-Gemälde aussehen. Die Katze ist so gut wie aus dem Sack.

Die massenhafte Verletzung der Privatsphäre durch gefälschte Pornografie ist dabei nur ein denkbares Szenario. Potentiell lassen sich bekannte Gesichter in alle möglichen Videos integrieren. Zusammen mit Software, die Stimmen imitieren kann und Echtzeit-Facetracking könnten relativ schnell und unkompliziert Fakes, etwa von Politikern und ihren Aussagen, produziert werden, die zwar bei genauerer Betrachtung (noch) schnell zu entlarven sind, aber dennoch erst mal Verwirrung und Misstrauen stiften. Dem Vergleich mit amateurhaften Bildmanipulationen auf Facebook hält das KI-gestützte Face-Swapping definitiv stand. Aber da es schon genug KI-Dystopien gibt, weist der Experte auch noch auf eine optimistischere Perspektive hin:

[R]esearchers can then begin developing technology to detect fake videos and help moderate what’s fake and what isn’t, and internet policy can improve to regulate what happens when these types of forgeries and harassment come up. “In a strange way,” this is a good thing, Champandard said.