Algorithmen greifen in immer mehr unternehmensinterne Prozesse und Entscheidungen ein oder treffen diese Entscheidungen sogar zunehmend selbst. Sie unterstützen Architekten bei der Konstruktion neuer Gebäude, Ärzte beim Treffen medizinischer Entscheidungen, Personaler bei der Auswahl neuer Arbeitskräfte oder weisen Plattformarbeitern wie Uber-Fahrern die entsprechenden Aufträge zu. 

Immer häufiger - wie beispielsweise im Falle der Uber-Fahrer - handelt es sich um selbstlernende Systeme, die dann auch entsprechend selbständig Entscheidungen treffen und Aufträge vergeben. Man spricht dann vom “algorithmischen Management”. 

Die Zuweisung von Aufträgen an Amazon-Mitarbeiter in den Verteilerzentren ist ein weiteres Beispiel für eigenständig entscheidende Algorithmen. Dass diese Mechanismen in ihrem Code eine Diskriminierung enthalten können, ist inzwischen hinlänglich bekannt. Ein anderes immer offensichtlicher werdendes Problem, das sich durch die Intransparenz des Codes ergibt, ist aber das sich dadurch verstärkende Ungleichgewicht in der Hierarchie von Unternehmen. Wenn der Algorithmus Entscheidungen trifft, die nicht mehr nachvollziehbar sind und gleichzeitig kein Mensch mehr dafür Verantwortung übernehmen muss, gibt es für die Angestellten keine Möglichkeit mehr, die Entscheidung an irgendeiner Stelle zu hinterfragen. 

Dieses Problem wird in der Hierarchiepyramide weiter oben dadurch verstärkt, dass sich Führungsmenschen immer häufiger darauf zurückziehen können, dass ja der Algorithmus die Entscheidung getroffen hat. Die von den Studienautoren interviewten Essens-Kuriere schilderten, dass sie versucht haben, sich mit ihrem Verhalten an die Logik des Algorithmus anzupassen. Dies führt also letztlich dazu, dass ein eventueller Bias im Code durch antizipierendes vorauseilendes Verhalten der Menschen selbstreferenziell verstärkt wird. Die Studienautoren schließen mit dem Hinweis, dass es für den Fall, dass es keine internationalen Standards von “fairen Algorithmen” geben sollte, am Ende heißen dürfte:

"Without human oversight based on agreed principles we risk inviting HAL into our workplaces."