Der sprichwörtliche Elefant im Raum bringt KI-Bilderkennungssysteme so durcheinander, dass sie anfangen, Quatsch zu sehen. Angriffe mittels "adversarial examples", also speziell ausgestalteten Bildern, die KIs durcheinanderbringen, gibt es zwar zuhauf. Aber in dieser Studie beschränkt sich das eben nicht nur auf die Fehlwahrnehmung eines Objektes, sondern bringt das gesamte System durcheinander. 

Der Text ist ein weiteres Indiz dafür, dass künstliche Intelligenz durch Machine Learning an eine Art Peak, oder Plateau geraten ist, von dem aus sie ohne weiteres nicht weiterkommt. Das passiert nicht zum ersten Mal. Nach dem ersten KI-Hype in den 50er/60er Jahren stellte man fest, dass zwar erstaunliches erreicht wurde, man von "künstlicher Intelligenz" jedoch noch lange nicht sprechen könne. Der Hype war vorbei, die Forschungsgelder trockneten aus. Die darauffolgenden Jahrzehnte gelten daher auch als "KI-Winter".

Auf ähnliches scheinen wir wieder zuzusteuern. Wir stellen z. B. fest, dass Autofahren doch nicht so einfach ist wie Regeln zu befolgen, sondern vor allem soziale Interaktion ist und in diesem Beispiel nun, dass schon Beobachten (Dinge erkennen) immer auch ein Beobachten und Korrigieren der eigenen Beobachtungsbedingungen erfordert.

Spannenderweise standen wir im Zuge des ersten KI-Winters genau vor derselben Erkenntnis. Die Kybernetik zweiter Ordnung, die Heinz von Förster als Ausweg vorschlug und die das Beobachten des Beobachtens notwendig mit einschließen sollte, stellt sich auch diesmal die Achillesferse heutiger KI-Forschung heraus. 

Es reicht eben nicht zu beobachten, um Dinge zu kategorisieren, sondern man muss bei Störungen in der Lage sein, den Blick zu rejustieren. Es reicht nicht, ein Stoppschild zu erkennen, sondern man muss die Beobachtungen der anderen Verkehrsteilnehmer beobachten, um deren Agenda zu deuten. Vielleicht behalten wir das ja diesmal bis zum nächsten KI-Sommer.