Kanäle
Jetzt personalisiertes
Audiomagazin abonnieren
Log-in registrieren
forum verwendet Cookies und andere Analysewerkzeuge um den Dienst bereitzustellen und um dein Website-Erlebnis zu verbessern.

handverlesenswert

Kluge Köpfe filtern für dich relevante Beiträge aus dem Netz.
Entdecke handverlesene Artikel, Videos und Audios zu deinen Themen.

Du befindest dich im Kanal:

Technologie und Gesellschaft

Rassismus as a Service - Wie Technologie alles reibungslos weiß macht

Michael Seemann
Kulturwissenschaftler, Autor, Internettheoretiker
Zum User-Profil
Michael SeemannMontag, 22.10.2018

Dieses Stück Technik-Analyse ist außergewöhnlich. Es geht zunächst um Überwachungssysteme und ihre Integration in kommerzielle Services. Doch hier schließt sich eine Beobachtung der Beobachtung aus einer sehr spezifischen Perspektive an, die ein wesentliches Feature aller technischen Systeme problematisiert: die auf Nutzerfreundlichkeit ausgelegte "Reibungslosigkeit" der Interaktion.

Gefährlich werden die Systeme vor allem dann, wenn automatische Erkennung und Zuordnung von Menschen in diese Optimierungsschleifen geraten. Nicht alle Menschen "passen" gleich gut in die jeweiligen Raster und diese Präferenzen bilden sich dann wiederum in den Daten ab.

Chris Gilliard zeigt an Beispielen wie Uber und Airbnb auf, wie systematisch versucht wird, Unterschiede/Irritationen aus dem System auszuschließen und wie die lernenden Systeme dabei tendieren, die (oft unbewusst rassistischen oder sexistischen) Präferenzen ihrer User zu integrieren. Während die User nun befreit von jedem Rassismus (der Algorithmus macht das nun) eine wundervoll reibungslose-weiße Benutzeroberfläche zu sehen bekommen.

Das Streben der Technologie nach möglichst "reibungsloser" Interaktion mit der Umwelt führt letzten Endes dazu, dass alles was ungewöhnlich ist und Irritationen verursachen kann, auf die ein oder andere Art eliminiert wird. Und da das auf technischer Ebene geschieht, werden die Menschen der Mehrheitsgesellschaft mit den Beseitigungen der Störung nicht mehr konfrontiert. Und wenn sie es doch merken, brauchen sie sich nicht schuldig dafür fühlen. Ist ja der Code, nicht ich.

Bemerkenswert ist die Analyse auch deswegen, weil sie schwerlich aus der Feder eines Mitgliedes der weißen Mehrheitsgesellschaft hätte kommen können. Gilliard interpoliert explizit aus seiner Erfahrung heraus, als Schwarzer genau solch ein Irritationsfaktor innerhalb einer weiß-dominierten akademischen Kultur zu sein. Ein weiterer Beleg dafür, wie wichtig Diversität im Umgang mit - und im Nachdenken über Technologie ist.

Rassismus as a Service - Wie Technologie alles reibungslos weiß macht

Möchtest du kommentieren? Dann werde jetzt kostenlos Mitglied!

Bleib immer informiert! Hier gibt's den Kanal Technologie und Gesellschaft als Newsletter.

Abonnieren

Deine Hörempfehlungen
direkt aufs Handy!

Einfach die Hörempfehlungen unserer KuratorInnen als Feed in deinem Podcatcher abonnieren. Fertig ist das Ohrenglück!

Öffne deinen Podcast Feed in AntennaPod:

Wenn alles geklappt hat,
kannst du das Fenster schließen.

Öffne deinen Podcast Feed in Apple Podcasts:

Wenn alles geklappt hat,
kannst du das Fenster schließen.

Öffne deinen Podcast Feed in Downcast:

Wenn alles geklappt hat,
kannst du das Fenster schließen.

Öffne deinen Podcast Feed in Instacast:

Wenn alles geklappt hat,
kannst du das Fenster schließen.

Öffne deinen Podcast Feed in Apple Podcasts:

Wenn alles geklappt hat,
kannst du das Fenster schließen.

Öffne deinen Podcast Feed in Podgrasp:

Wenn alles geklappt hat,
kannst du das Fenster schließen.

Bitte kopiere die URL und füge sie in deine
Podcast- oder RSS-APP ein.

Wenn du fertig bist,
kannst du das Fenster schließen.

Link wurde in die Zwischenablage kopiert.

Öffne deinen Podcast Feed in gpodder.net:

Wenn alles geklappt hat,
kannst du das Fenster schließen.

Öffne deinen Podcast Feed in Pocket Casts:

Wenn alles geklappt hat,
kannst du das Fenster schließen.