In der FAZ erläutern die Professoren Gerd Gigerenzer, Gert G. Wagner und Klaus-Robert Müller, wie algorithmen-basierte Entscheidungen überprüft werden könnten.

Dies vor dem Hintergrund, dass z. B. die Schufa folgenreiche Entscheidungen zur individuellen Kreditwürdigkeit allein Computerprogrammen überlässt. Wie die Urteile zustande kommen, lässt sich nicht nachvollziehen. Eine juristische Klage auf Offenlegung des Schufa-Algorithmus wurde mit dem Hinweis auf das zu schützende Geschäftsgeheimnis abgewiesen.

Derzeit werden immer mehr kommerzielle Algorithmen eingesetzt, um uns in fast allen Bereichen des Lebens einen Score zuzuteilen.

Andere Programme gehen noch weiter. Compas erstellt in den USA algorithmen-basierte Vorhersagen zur Rückfallgefahr von Straftätern, die bei der Urteilsfindung genutzt werden, wobei weder der Angeklagte, sein Anwalt noch der Richter selbst durchschauen, wie es zu den Compas-Empfehlungen kommt. Auch diese Algorithmen sind durch das Geschäftsgeheimnis geschützt.

Abgesehen davon können auch Experten die Codes selbstlernender Programme in aller Regel kaum noch kontrollieren.

Im Koalitionsvertrag der Bundesregierung steht jedoch, dass „Algorithmen- und KI-basierte Entscheidungen, Dienstleistungen und Produkte“ überprüfbar gemacht werden sollen.

Um dabei das Geschäftsgeheimnis wahren zu können, schlagen die drei Professoren nun „Transparenz-Schnittstellen“ vor, an denen zumindest die Merkmale, die zur Entscheidungsfindung herangezogen werden, offen liegen, um sie „durchzuspielen“. Sollte dies schon zu weit gehen, könnte unter strengen Auflagen zur Verschwiegenheit eine noch einfachere Schnittstelle von Betroffenen zur Überprüfung genutzt werden, die dann – wieder zum Schutz des Geschäftsgeheimnisses – sehr aufwendige gerichtliche „In-camera-Verfahren“ anstrengen könnten.

So interessant das ist, bleibt die Frage doch, ob wir als Gesellschaft solche Entscheidungen überhaupt undurchschaubaren kommerziellen Programmen überlassen sollten.