Zwei Maximen scheinen in der Debatte um die Ethik der künstlichen Intelligenz (KI) im Arbeitsumfeld in Stein gemeißelt: Erstens müssen die hinter der KI stehenden Entscheidungslogiken verstanden werden und zweitens muss am Ende der Entscheidungskette ein Mensch stehen. Mit diesen beiden Gewissheiten geht der aktuelle Beitrag bei Harvard Business Review hart ins Gericht.

So beschreiben die Autoren beispielsweise die Entwicklung einer Quantify-Self-App im Bereich des Hochleistungssports. Diese App wurde im ersten Schritt darauf ausgelegt, dem Sportler möglichst viele Hintergrundinformationen zur Verfügung zu stellen. Ihm wurden relativ viele Rohdaten präsentiert, aus denen er eine Entscheidung (wann gehe ich abends ins Bett? Wann stehe ich am besten auf?) ableiten musste (ganz im Sinne der genannten Maximen). Die Erfahrungsberichte dazu zeigten aber, dass die Informationen selten zu Entscheidungen führten. Dies änderte sich erst, als die App so programmiert wurde, dass sie die Entscheidung für den Sportler traf und auf die wesentliche Botschaft (gehe jetzt zu Bett!) reduzierte.

Ein weiteres Beispiel zieht die zweite Maxime in Zweifel. Bei einem technischen Change-Prozess in einem internationalen Konzern wurden von Seiten des Arbeitgebers technische “Botschafter” identifiziert, die den Prozess des Wandels durch interne Kommunikation unterstützen wollten. Diese Personen wurden also - von Menschen - nach der Logik der internen Hierarchie und Zuständigkeit ausgesucht. Es zeigte sich jedoch im Zuge des fehlgeschlagenen ersten Anlaufs, dass diese von den Menschen identifizierten “zuständigen” Personen nicht ausreichend kommunikative Reichweite besaßen. Erst als die reichweitenstärksten Personen durch ein Datenmodell sichtbar und dann als Botschafter “ernannt” worden waren, kam der Change-Prozess in Gang.

Vielleicht sollten wir einfach lernen, der KI etwas mehr zu vertrauen?