Kanäle
Log-in registrieren
piqd verwendet Cookies und andere Analysewerkzeuge um den Dienst bereitzustellen und um dein Website-Erlebnis zu verbessern.

handverlesenswert

Kluge Köpfe filtern für dich relevante Beiträge aus dem Netz.
Entdecke handverlesene Artikel, Videos und Audios zu deinen Themen.

Du befindest dich im Kanal:

Technologie und Gesellschaft

Michael Seemann
Kulturwissenschaftler, Autor, Internettheoretiker
Zum piqer-Profil
piqer: Michael Seemann
Montag, 22.10.2018

Rassismus as a Service - Wie Technologie alles reibungslos weiß macht

Dieses Stück Technik-Analyse ist außergewöhnlich. Es geht zunächst um Überwachungssysteme und ihre Integration in kommerzielle Services. Doch hier schließt sich eine Beobachtung der Beobachtung aus einer sehr spezifischen Perspektive an, die ein wesentliches Feature aller technischen Systeme problematisiert: die auf Nutzerfreundlichkeit ausgelegte "Reibungslosigkeit" der Interaktion.

Gefährlich werden die Systeme vor allem dann, wenn automatische Erkennung und Zuordnung von Menschen in diese Optimierungsschleifen geraten. Nicht alle Menschen "passen" gleich gut in die jeweiligen Raster und diese Präferenzen bilden sich dann wiederum in den Daten ab.

Chris Gilliard zeigt an Beispielen wie Uber und Airbnb auf, wie systematisch versucht wird, Unterschiede/Irritationen aus dem System auszuschließen und wie die lernenden Systeme dabei tendieren, die (oft unbewusst rassistischen oder sexistischen) Präferenzen ihrer User zu integrieren. Während die User nun befreit von jedem Rassismus (der Algorithmus macht das nun) eine wundervoll reibungslose-weiße Benutzeroberfläche zu sehen bekommen.

Das Streben der Technologie nach möglichst "reibungsloser" Interaktion mit der Umwelt führt letzten Endes dazu, dass alles was ungewöhnlich ist und Irritationen verursachen kann, auf die ein oder andere Art eliminiert wird. Und da das auf technischer Ebene geschieht, werden die Menschen der Mehrheitsgesellschaft mit den Beseitigungen der Störung nicht mehr konfrontiert. Und wenn sie es doch merken, brauchen sie sich nicht schuldig dafür fühlen. Ist ja der Code, nicht ich.

Bemerkenswert ist die Analyse auch deswegen, weil sie schwerlich aus der Feder eines Mitgliedes der weißen Mehrheitsgesellschaft hätte kommen können. Gilliard interpoliert explizit aus seiner Erfahrung heraus, als Schwarzer genau solch ein Irritationsfaktor innerhalb einer weiß-dominierten akademischen Kultur zu sein. Ein weiterer Beleg dafür, wie wichtig Diversität im Umgang mit - und im Nachdenken über Technologie ist.

Rassismus as a Service - Wie Technologie alles reibungslos weiß macht
9
8 Stimmen
relevant?

Möchtest du kommentieren? Dann werde jetzt Mitglied!