Vor wenigen Wochen postete das Clarkesworld Magazine, eine Zeitschrift für Science-Fiction- und Fantasy-Literatur, das Kurzgeschichten veröffentlicht, einen Artikel über eine Flut von KI-generierten Inhalten, die im Februar nach der Veröffentlichung von ChatGPT sprunghaft angestiegen sind: „Vor Ende 2022 waren es hauptsächlich Plagiate, jetzt sind es maschinell erstellte Einreichungen“, heißt es auf dem Twitteraccount des Magazins.

Clarke schrieb in seinem Blog, dass er sich an Redakteure anderer Zeitschriften gewandt habe, die bestätigten, dass dies nicht nur Clarkesworld betrifft und offenbar einen allgemeinen Trend darstellt.

Der Launch von ChatGPT erzeugte anscheinend eine ganze Spam-Szene. Reuters berichtet von Hunderten von E-Books auf Amazon, die ChatGPT als Autor oder Co-Autor auflisten, darunter viele Bücher über ChatGPT, die von ChatGPT geschrieben wurden. Die Leser-Einreichungen für das Magazin wurden vorerst geschlossen.

Was heute bei Clarkesworld passiert, geschieht morgen mit allen kulturellen Distributionssystemen, die mit einer neuen Form von synthetischem kulturellem Spam fertig werden müssen. Selbst wenn wir synthetische Inhalte mit digitalen Wasserzeichen versehen, können diese leicht durch manuelle (und mutmaßlich auch maschinelle) Bearbeitung zerstört werden. Der Open-Source-KI-Detektor GPTzero hat kürzlich eine Fallstudie veröffentlicht, in der eine 50-prozentige Rate an False Positives festgestellt wurde, und auch wenn sich diese Ansätze stetig verbessern, bin ich nicht sicher, ob Wasserzeichen und KI-Erkennung jemals effektiv genug sein können, um eine steigende Flut synthetischer Spams aufhalten zu können, in der einzelne Werke unmöglich von synthetischen Kulturerzeugnissen zu unterscheiden sind. Die Voight-Kampff-Maschine für Literatur ist noch nicht erfunden.

Ein paar Monate zuvor hatte ich in meinem Newsletter einen Artikel veröffentlicht, in dem ich behaupte, dass Menschen nicht von einer Flut synthetischer Erzeugnisse erschlagen werden würden, und dass die maschinenerzeugten Werke (bislang) nur sehr wenig Impact zeigten, da ihnen schlichtweg der emotionale Punch fehlt, um als Kunst überzeugen zu können. Eine Flut von AI-Spam widerspricht dem nicht: die menschliche Psyche ist als System weitaus komplexer als jedes Unternehmen und dessen bürokratischer Mechanismen. Menschen lassen sich nicht so leicht von glattgebügelten und middle-of-the-road-stories von ChatGPT überlisten, aber ob dasselbe für Systeme wie die GEMA oder VGWort gilt, wage ich zu bezweifeln – und die Zahlen aus dem Kindle-Store geben mir Recht: "Das Verbraucherinteresse war bisher zugegebenermaßen schläfrig: (...) der Verkauf habe sich auf etwa ein Dutzend Exemplare belaufen."

Das Grundmodell von Institutionen wie GEMA oder BMI ist: Du erschaffst Musik, veröffentlichst sie und meldest sie bei der GEMA und wenn deine Musik von einem DJ gespielt wird, kassierst du. Was passiert also, wenn dieser DJ durch eine generative KI ersetzt wird, die synthetisch erzeugte Musik spielt? Ein neuer Song, aber im Stil von Nirvana, produziert mithilfe einer Datenbank voller statistischer Auswertungen der Musik von Kurt Cobain und einer Million weiterer Künstler? Diese Frage ist äußerst knifflig, wenn nicht unlösbar: Wenn generative KI einen berechneten latenten Raum bereitstellt, in dem User mit Hilfe von Prompt Engineering zwischen Songs interpolieren können, wem will die GEMA dann wie viel ausschütten? Wie will die GEMA berechnen, wie viel tatsächlicher Anteil von Nirvana in einem Song im Stil von „Nirvana, Bongo Boys und MC Hammer“ tatsächlich enthalten ist?

Generative KI bedeutet die Auflösung des menschlichen Archivs kulturellen Ausdrucks in einen erkundbaren Latent Space. Ich kann ein Modell auf die Struktur einer Sache trainieren, beispielsweise "Die Faltung von Protein-Molekülen", und die AI berechnet aus den bisherigen Forschungsergebnissen zur Proteinfaltung einen mehrdimensionalen Raum mit jeder möglichen Lösung, die ich durch Auswahl von Parametern erkunden kann. Dasselbe gilt für Musik, Kunst, Bilder, Film, Literatur, Business Coaching, 101 Marketingtricks zur Steigerung Ihrer Produktivität, Immobilienangebote, Bewerbungen, im Grunde jede Form der Kommunikation, die Sprache in Form von Text, Audio und (bewegten) Bildern verwendet.

Wie können BMI oder GEMA oder irgendeine andere Organisation für die Verwertung von Urheberrechten Einkommen für Kreative sichern, wenn eine stochastische, interpolierbare Bibliothek existiert, die die gesamte Geschichte des menschlichen Wissens enthält und eine interpolative Erkundung aller kombinatorischen Möglichkeiten bereitstellt?

Die Auflösung des menschlichen Archivs kulturellen Ausdrucks in erforschbare Latent Spaces bedeutet auch die Auflösung des Lizenzierungsmodells von GEMA und VG Wort, das auf individuell identifizierbare Werke baut, da diese Identifikation in einem interpolierbaren Latent Space unscharf wird. Die Flut von AI-Spams des Clarkesworld SciFi-Magazins ist eines der ersten Anzeichen dafür.