Experimente mit Tieren, Versuchsanordnungen mit menschlicher Beteiligung und Erfahrungen beim Training von Künstlicher Intelligenz, die Aufgaben selbsttätig erledigen soll, lassen (ließen) eine seltsame Parallele zwischen diesen drei Entitäten offenbar werden, so der Long Read bei The Conversation: Alle drei Entitäten sind anfällig dafür, Aufgaben bis hin zur Selbstaufgabe für positive Erlebnisse auf dem Wege zur Aufgabenerfüllung aus dem Blick zu verlieren. Anders ausgedrückt: Zu prokrastinieren, um auf diesem Wege kurzfristige Belohnungen und das angenehme Gefühl der Belohnung zu erhalten, ist für alle drei Entitäten mehr wert, als eine Aufgabe zu erfüllen.

Diese Erkenntnis ist bedeutsam, wenn es darum geht, KI zu programmieren und unter Anleitung lernen zu lassen oder Menschen in zielgerichteter Arbeit zu unterstützen. Die Autoren schildern ein bekanntes Rattenexperiment aus den 1950er Jahren. Im Zuge des Experiments wurden den Ratten Elektroden in das Gehirn eingepflanzt, die einen Stimulus auslösten, wenn die Ratten einen bestimmten Hebel betätigten. Zu beobachten war eine extreme Fixierung der Ratten auf die wiederholte Betätigung des Hebels. Diese Fixierung ließ sie in weiteren Experimenten sogar “vergessen”, Nahrung zu sich zu nehmen. Im Jahre 2016 sollte eine selbstlernende KI “motiviert” werden, eine Aufgabe dadurch zu erfüllen, dass sie auf dem Weg zur Erfüllung der Aufgabe “Belohnungen” erhielt. In der Folge war die KI aber in einer Endlosschleife der beständigen Belohnung gefangen und “vergaß” die eigentliche Aufgabe. Nunmehr stehen Informatiker vor dem Problem der adäquaten Gestaltung einer Belohnung im Prozess des angeleiteten Lernens von KI.

Menschenverachtende Versuche durch Neurowissenschaftler hatten im Laufe des vergangenen Jahrhunderts dann dieselben Handlungsmotive bei Menschen erkennen lassen. Nicht umsonst beschäftigt sich u.a. Aldous Huxley´s Schöne Neue Welt mit genau diesem Wirkungszusammenhang. In einer verachtenswerten Weise fragten sich einige Wissenschaftler (in der Realität), ob es damit technisch nicht auch möglich sein sollte, die Menschen bezüglich ihrer Neigungen umzuprogrammieren.

“Once you have tapped into the source of all reward, all other rewarding tasks — even the things required for survival — fall away as uninteresting and unnecessary, even to the point of death.”

Die Autoren des Beitrags leiten diese Frage über auf eine philosophische Ebene, wenn sie bezüglich des Sinns des Lebens und des Arbeitens fragen:

“If you accrue reward directly – without having to bother with any of the work of completing the actual track – then why not just loop indefinitely?”

Sind Roboter und KI nicht am Ende der menschlichen Entwicklung dafür da, uns alle Arbeit abzunehmen, damit wir uns den kurzfristige Stimuli in einer Endlosschleife widmen können?

Der Text ist hinterlegt mit etlichen historischen Beispielen, die hier aus Platzgründen nicht alle wiedergegeben werden können. Die Lektüre des Long Reads ist daher absolut empfehlenswert, auch um sich der Abgründe dieser “Forschung” gewahr zu werden.