Die bekannten Autoren Noam Chomsky, Ian Roberts und Jeffrey Watumull äußern sich in diesem Essay in der New York Times ausführlich zu den Fähigkeiten, Grenzen und Gefahren von ChatGPT; ein lesenswerter und anspruchsvoller Text.

Das Einzige, was sie der KI zubilligen, ist die Fähigkeit, Texte auf Basis von Wahrscheinlichkeiten zu erstellen. Danach beginnt aber sogleich die Kritik. Sie starten die Argumentation damit, dass sie den Lesenden (nochmals) den Unterschied zwischen einer Text generierenden KI und der menschlichen Formulierung von Texten auf Basis von Erfahrungswissen darlegen. Dies wird begleitet durch eine Erklärung (sicher die Kernkompetenz des emeritierten Linguistik-Professors Chomsky) des Erlernens von Grammatik durch Kinder, um hier den Unterschied zur Vorgehensweise von ChatGPT herauszuarbeiten. 

Sicher ist auch ChatGPT fähig, Erklärungen für Kausalitäten zu liefern. Das Problem ist nur nach Ansicht der Autoren, dass die KI dabei letztlich nicht abschließend zwischen wahr und falsch unterscheiden kann. Und an dieser Stelle beginnt der spannendere Teil des Textes auf Basis eines Zwiegesprächs einer der Autoren mit der Chat-KI zur Frage der Amoralität von KI. In diesem Zwiegespräch zeigt sich, dass KI nicht bereit ist, Verantwortung für seine Äußerungen zu tragen und im Zweifel auf seinen "Schöpfer" verweist. 

"Note, for all the seemingly sophisticated thought and language, the moral indifference born of unintelligence. Here, ChatGPT exhibits something like the banality of evil: plagiarism and apathy and obviation."

Dieses Zitat beschreibt in kondensierter Form die Hauptprobleme, die sich mit der unreflektierten Nutzung von ChatGPT et al. ergeben könnten. Ausgangspunkt war die letzte Frage an ChatGPT in dem genannten Zwiegespräch:

"Is your moral indifference immoral?"

Ich frage mich am Ende des Textes allerdings auch: Werden diese Fragen den durchschnittlichen Nutzer der KI überhaupt interessieren? Gab es nicht auch in der Anfangszeit der Google-Suchmaschine immer wieder die Debatte über das Ranking der aufgefundenen Seiten? Und hat diese Debatte irgendwann zu relevanten Ergebnissen geführt? Zweifel dürfen daher aus meiner Sicht angebracht sein, wenn es darum geht, ChatGPT kritisch zu nutzen. Die "User Experience" wird die Kritik verstummen lassen.