Kanäle
Jetzt personalisiertes
Audiomagazin abonnieren
Log-in registrieren
piqd verwendet Cookies und andere Analysewerkzeuge um den Dienst bereitzustellen und um dein Website-Erlebnis zu verbessern.

handverlesenswert

Kluge Köpfe filtern für dich relevante Beiträge aus dem Netz.
Entdecke handverlesene Artikel, Videos und Audios zu deinen Themen.

Du befindest dich im Kanal:

Volk und Wirtschaft

Gunnar Sohn
Wirtschaftsjournalist, Blogger, Moderator, Livestreamer, Dozent
Zum piqer-Profil
piqer: Gunnar Sohn
Freitag, 26.04.2019

Amazon und die schmutzigen Entscheidungen von "neutralen" Maschinen

In den vergangenen Jahren habe ich einiges recherchiert und berichtet über die perfiden Ansätze von Silicon Valley-Konzernen bei der Überwachung von Mitarbeitern. Es geht dabei um die Schaffung von digitalen Nasenring-Systemen. Man könnte auch von kybernetischen Steuerungsobsessionen sprechen.

Eine Meldung in MIT Technology Review belegt die Perversion dieser Logik. So verfolgt wohl Amazon mit digitalen Werkzeugen nicht nur die Produktivität ihrer Belegschaft bis zum Klo, sondern lässt sie in automatisierten Verfahrensschritten Kündigungen aussprechen. Erste Reaktion auf Facebook: „Was ist besser? Durch eine Maschine gefeuert zu werden, die meine Leistung beurteilt oder durch einen Vorgesetzten, dem meine Nase nicht gefällt?“

Das ist die Fata Morgana von neutralen Systemen. Wir schreiben den Maschinen Fähigkeiten wie Rationalität und Unfehlbarkeit zu. Was für ein großer Irrtum. Mit Software und mit den Trackingsystemen wird gelogen und betrogen. Der KI-Analyst Stefan Hotel spricht sehr treffend von „Lügen zweiter Ordnung“, mit denen viele Firmen agieren. Benutzer können das nicht mehr durchschauen. Denn leider wächst den Maschinen keine lange Nase. Wenn auf dieser Basis die digitalen Systeme ihre unermüdliche Arbeit aufnehmen und Entscheidungen vorbereiten oder sogar selbst treffen, kommt ziemlicher Mist dabei heraus. Kunden, die keinen Kredit mehr bekommen, Versicherte, die Prämienerhöhungen hinnehmen müssen oder gar Netzaktivisten, die als potenzielle Störenfriede der Gesellschaft aussortiert werden. Fast alle Daten, die von Black Box-Maschinen verarbeitet werden, sind von Menschen annotiert worden. 

Das Ganze ist ein paradiesisches Feld für Trickser, Agitatoren, Autokraten und Machtgierige. Die können sich hinter den Ergebnissen von „neutralen und objektiven“ Maschinen verstecken und mit Unschuldsmiene die schmutzigen Entscheidungen auf die Algorithmen schieben. 

Amazon und die schmutzigen Entscheidungen von "neutralen" Maschinen
8,9
7 Stimmen
relevant?

Möchtest du kommentieren? Dann werde jetzt Mitglied!

Bleib immer informiert! Hier gibt's den Kanal Volk und Wirtschaft als Newsletter.

Abonnieren

Deine Hörempfehlungen
direkt aufs Handy!

Einfach die Hörempfehlungen unserer Kuratoren als Feed in deinem Podcatcher abonnieren. Fertig ist das Ohrenglück!

Öffne deinen Podcast Feed in AntennaPod:

Wenn alles geklappt hat,
kannst du das Fenster schließen.

Öffne deinen Podcast Feed in Apple Podcasts:

Wenn alles geklappt hat,
kannst du das Fenster schließen.

Öffne deinen Podcast Feed in Downcast:

Wenn alles geklappt hat,
kannst du das Fenster schließen.

Öffne deinen Podcast Feed in Instacast:

Wenn alles geklappt hat,
kannst du das Fenster schließen.

Öffne deinen Podcast Feed in Apple Podcasts:

Wenn alles geklappt hat,
kannst du das Fenster schließen.

Öffne deinen Podcast Feed in iTunes:

Wenn alles geklappt hat,
kannst du das Fenster schließen.

Öffne deinen Podcast Feed in Podgrasp:

Wenn alles geklappt hat,
kannst du das Fenster schließen.

Bitte kopiere die URL und füge sie in deine
Podcast- oder RSS-APP ein.

Wenn du fertig bist,
kannst du das Fenster schließen.

Link wurde in die Zwischenablage kopiert.

Öffne deinen Podcast Feed in gpodder.net:

Wenn alles geklappt hat,
kannst du das Fenster schließen.

Öffne deinen Podcast Feed in Pocket Casts:

Wenn alles geklappt hat,
kannst du das Fenster schließen.