Dieser piq zu einem in gut acht Minuten zu lesenden, kostenfreien Artikel ist eine Ergänzung zu meinem letzten piq eines kostenpflichtigen Angebots.

Thomas Thiel gibt in der FAZ einen kompakten Einblick in den Stand der Forschung zur künstlichen Intelligenz (KI), die sich, so der für Google tätige KI-Experte Ali Rahimi, „selbst ein Rätsel ist“. Ein Problem, das man vor dem Hintergrund der weitreichenden Entscheidungen, die mittlerweile von entsprechenden Programmen etwa im Bereich der Kreditvergabe, Medizin oder Justiz (USA) getroffen werden, durchaus als gravierend bezeichnen kann:

Da Algorithmen heute tief in das gesellschaftliche Leben eingreifen, sollte man auch erklären können, nach welchen Kriterien sie ihre Entscheidungen treffen. Demokratie beruht sich auf Transparenz und Nachvollziehbarkeit.

Während Forscher wie Wolfgang Wahlster vom Deutschen Forschungszentrum für Künstliche Intelligenz in Saarbrücken davon ausgehen, dass eigens entwickelte Übersetzungsprogramme (also Programme zur Übersetzung nicht mehr zu durchschauender Programme ...) in naher Zukunft Abhilfe schaffen können, schlägt Rahimi vor, jeweils einzelne Teile eines KI-basierten Algorithmus zu entfernen, um zu schauen, welche Folgen das haben könnte ...

Zwei Methoden, die wohl nicht jeden skeptischen Laien (wie mich) überzeugen.

Die Europäische Datenschutzverordnung fordert deshalb ein Recht auf Erklärung. Jeder Nutzer müsse nachvollziehen können, wie ein Algorithmus zu seiner Entscheidung kommt. Praktisch ist das ein Ding der Unmöglichkeit. Bisher bekommt man nämlich nur die gespeicherten Daten zu Gesicht und erfährt nichts darüber, wie sie verarbeitet werden. Der operative Kontext ist bei der Interpretation der Daten allerdings entscheidend.