In diesem Artikel bei The Atlantic formulieren unter anderem Henry Kissinger und Eric Schmidt als Autoren die Notwendigkeit, angesichts der Leistungsfähigkeit von Künstlicher Intelligenz (KI) die Logik menschlicher Beschlussfassung und menschlicher Begründung für diese Beschlüsse einer Fortentwicklung zu unterziehen.

AlphaZero hat als KI Schach innerhalb von 24 Stunden erlernt und die Kapazität jedes Menschen in diesem Spiel übertroffen. Die KI hat das Spiel aber nicht auf Grundlage menschlicher Erfahrungen, sondern aufgrund eigener Erfahrungen erlernt. Es ist zu Strategien gelangt, die keine Ähnlichkeit mit menschlichen Strategien – erlernt in Jahrhunderten – hatte. Wie sieht die “Realität” aus, innerhalb derer die KI die aus ihrer “Sicht” richtigen Strategien entwickelt hat? Könnte KI in selbstfahrenden Autos zu neuen Regeln gelangen, die den menschlichen überlegen sind?

Essentiell sind diese Fragen mit Blick auf internationale Waffenkontrollen. War es im Falle der nuklearen Abschreckung wichtig, Transparenz über die eigenen Kapazitäten und die Handlungsmaxime herzustellen, wird dies verunmöglicht, wenn KI in die Strategiefindung eingebunden wird. Es entsteht Unberechenbarkeit, deren Auswirkung auf die Entscheidungen der Militärs unklar sind.

Auf der individuellen Ebene passt sich KI in Form von Alexa und digitalen Haustieren den Menschen im Laufe der Nutzung immer mehr an. Was bedeutet dies für menschliche Beziehungen, aufgrund derer bisher (sozial) gelernt wurde (Eltern/Kinder, Mensch/Hund) und welche Wirkung hat diese KI, die Gefühle nicht erwidern kann, wenn Menschen ihr gegenüber einseitig Gefühle der Vertrautheit entwickeln?

Bedeutete das Zeitalter der Aufklärung die Einführung menschlicher Rationalität in die Entscheidungsfindung, stehen wir nun am Beginn des Zeitalters der Einführung KI-basierter Rationalität, einer Rationalität, die wir nicht mehr verstehen werden und die zu neuen Ethiken jenseits der menschlich nachvollziehbaren führen wird, so die Autoren.