Bei Konferenzbesuchern und in Fachkreisen war der Informatiker, Kognitionswissenschaftler und Philosoph Joscha Bach, der am MIT Media Lab und in Havard an künstlicher Intelligenz forschte und nun für die kalifornische AI Foundation arbeitet, schon länger bekannt. Seit seinem Auftritt im KI-Podcast von Lex Fridmann hat seine Popularität noch einmal deutlich zugelegt. Wohl auch deshalb, weil er dem Publikum mit seinen komplexen, aber hoch interessanten Einschätzungen viel Denkleistung abverlangt.

Für 1E9 hielt Joscha Bach im vergangenen Jahr bereits eine Keynote, jetzt erklärte er in einem ausführlichen Interview, warum er davon ausgeht, dass die Menschheit in ihrer jetzigen Form keine Zukunft hat, warum er an der menschlichen Intelligenz zweifelt und wie weit wir wohl noch von einer echten, generellen künstlichen Intelligenz entfernt sind. Hier einige kurze Zitate aus dem Gespräch.

Über das Ende der Menschheit

Es geht vielleicht noch ein paar hundert Jahre weiter. Aber selbst wenn es uns gelingen sollte, den Steinen das Denken beizubringen, eine echte Künstliche Intelligenz zu bauen und eine intergalaktische Zivilisation entsteht: Glaubt man denn im Ernst, dass auf dem Raumschiff Enterprise Affen sitzen, die intergalaktische Kriege führen und sich den Kopf darüber zerbrechen, mit welchem Affen sie sich am besten paaren und wie viel Zucker sie zu sich nehmen sollen? Wäre das angemessen? Oder sollten das nicht besser KIs sein oder zumindest speziell angepasste Organismen, die wenig menschliche Ästhetik in sich besitzen, sondern einer ganz anderen Logik folgen?

Über Intelligenz

Alan Turing hat formuliert, dass man ein intelligentes System daran erkennt, dass es in der Lage ist, mit mir so zu interagieren wie ein intelligentes System – also ich selbst. Die Formulierung, die Turing gefunden hat, ist aus meiner Sicht aber unvollständig. Ich glaube, dass ich tatsächlich erkennen kann, dass ein System intelligent ist, wenn ich das System fragen kann: Was ist denn Intelligenz eigentlich? Was ist deine eigene Natur? Das System kann mir dann erklären, wie es konstruiert ist, was Intelligenz eigentlich ist und wie man eine KI baut.

Über echte KI

Wenn wir uns in Berlin oder München aufhalten, dann ist die KI ungefähr 50 Jahre in der Zukunft und dies schon sehr lange. Wenn wir in konservativeren Orten sind, dann wird das vielleicht nie passieren. Als ich in Boston war, hatte ich das Gefühl, dass die KI ungefähr 30 Jahre in der Zukunft ist – und dies auch schon sehr lange. Und im Silicon Valley ist sie schon sehr lange zehn Jahre in der Zukunft.

Neben eher grundsätzlichen Einschätzungen, sind auch Joscha Bachs Gedanken zum gerade viel diskutierten KI-Textgenerator GPT-3 von OpenAI interessant. OpenAI habe es geschafft, ein System zu bauen, das mehr über die statistischen Beziehungen zwischen Worten wisse als jeder Mensch, meint der Forscher. Dennoch funktioniere es im Grunde wie ein ausgefallener Autocomplete-Algorithmus, den fast alle von ihrem Smartphone kennen.

Als Demo hat Joscha Bach dann noch ein fiktives Gespräch zwischen GPT-3 und Goethe mitgebracht, das eindrucksvoll beweist, dass die KI zwar schlaue Sachen sagt, aber keine Ahnung hat, was diese eigentlich bedeuten.