Das kostenlose Browserspiel Universal Paperclips ist ein typisches Clicker-Spiel: Per Mausklick produzieren wir aus einem Stück Draht eine Büroklammer. Gegen virtuelles Geld können wir diesen Prozess automatisieren – erst langsam, später immer schneller, bis bald gigantische Mengen Büroklammern pro Sekunde entstehen. Über Faktoren wie Preisgestaltung und Marketing sorgen wir für stetige Nachfrage und ordentliche Profite. So weit, so bekannt.

Clicker-Spiele, so simpel sie aussehen mögen, bieten erstaunliches Spaß- und Suchtpotenzial, ihre theoretische Basis beschränkt sich aber in der Regel auf mathematische oder ökonomische Wachstumsphänomene. Anders Universal Paperclips. Das Spiel geht auf ein spannendes Gedankenexperiment des Oxfordprofessors Nick Bostrom über künstliche Intelligenz zurück, an dessen hypothetischem Ende eine gruselige Vision steht: Die Büroklammer-Apokalypse.

Ganz verkürzt gesagt, geht es dabei um die gefährliche Tatsache, dass hochentwickelte künstliche Intelligenzen erbarmungslos auf ein gesetztes Ziel hinarbeiten, und zwar mit maximaler Effizienz. Wenn eine KI also Büroklammern produzieren soll, wird sie versuchen, immer mehr und mehr davon herzustellen – bis sie irgendwann, so die These, alle Materie in Büroklammern verwandelt hat. Das wäre dann wohl auch das Ende der Menschheit:

„An AI might have goals and values that, though seemingly innocuous, still pose an existential threat simply because, well, our bodies are made out of matter and so are paperclips. We could become food for the paperclip machine.“

Ein unheimliches, aber spannendes Gedankenspiel, und ein wichtiges Thema für diejenigen, die über künstliche Intelligenz forschen und an ihr arbeiten. Bruno Dias beschreibt im verlinkten Waypoint-Artikel, wie Universal Paperclips das Gedankenexperiment in eine bekannte Spielmechanik umsetzt und damit, angereichert um Zitate und Ideen zum Thema künstliche Intelligenz, viel tiefer geht, als es auf den ersten Klick scheint.