Kanäle
Log-in registrieren
piqd verwendet Cookies und andere Analysewerkzeuge um den Dienst bereitzustellen und um dein Website-Erlebnis zu verbessern.

handverlesenswert

Kuratoren aus Journalismus, Wissenschaft und Politik empfehlen
und kommentieren die besten Inhalte im Netz.

Du befindest dich im Kanal:

Technologie und Gesellschaft

Anke Domscheit-Berg
Publizistin, Unternehmerin, Aktivistin
Zum piqer-Profil
piqer: Anke Domscheit-Berg
Mittwoch, 29.06.2016

Diskriminierende Algorithmen prägen das Internet. Methoden, um das nachzuweisen, sind (noch) illegal

Es mehren sich die Erkenntnisse dazu, wie Diskriminierung in der analogen Welt sich auf den Einsatz von Algorithmen überträgt. Algorithmen werten  gigantische Datenberge unserer Big Data Welt aus und kommen bei einer nicht objektiven Prägung zu Ergebnissen, die Menschen aufgrund bestimmter Merkmale diskriminieren. Dieser Artikel beschreibt nicht nur anhand von Beispielen, wo und wie derartige Diskriminierung stattfindet und was die analogen Vorgänger sind, sondern vor allem auch, wie die aktuelle Gesetzeslage verhindert, dass man der Diskriminierung durch Algorithmen legal auf die Schliche kommt. Kaum jemand legt die eigenen Algorithmen offen, sie werden gehütet wie ein heiliger Gral. Versucht man von außen, Einblick in den Algorithmus zu erlangen, landet man schnell in der Hacker-Schublade (wie Aaron Swartz) und damit gleich in einer besonders gefährlichen Verbrecherkategorie - aus Sicht des Gesetzgebers, denn die Hacker-Schublade liegt da gleich neben der Terroristen-Schublade und das gibt drakonische Strafen. US Gesetze verbieten explizit die Verletzung der AGB von Internetdiensten, was deshalb ein Problem ist, weil viele dieser AGB den Einsatz gefakter Nutzerprofile oder die automatisierte Nutzung des Dienstes verbieten. Beides braucht man aber, will man Algorithmen auf Diskriminierungsfreiheit prüfen.

Verbraucherschutz und Schutz vor Diskriminierung ist damit selbst durch NGOs wie die ACLU schwerer zu leisten, weshalb die ACLU für Gesetzesänderungen appelliert, denn:

The next generation of civil rights testing will need to happen online. Without this kind of research, we’ll have no way of knowing whether websites are selling or advertising goods and services in a way that exacerbates existing racial disparities.

Diskriminierende Algorithmen prägen das Internet. Methoden, um das nachzuweisen, sind (noch) illegal
8
3 Stimmen
relevant?

Möchtest du kommentieren? Werde piqd Mitglied!