Kanäle
Jetzt personalisiertes
Audiomagazin abonnieren
Log-in registrieren
piqd verwendet Cookies und andere Analysewerkzeuge um den Dienst bereitzustellen und um dein Website-Erlebnis zu verbessern.

handverlesenswert

Kluge Köpfe filtern für dich relevante Beiträge aus dem Netz.
Entdecke handverlesene Artikel, Videos und Audios zu deinen Themen.

Du befindest dich im Kanal:

Fundstücke

Wenn die Software rassistisch ist

Michaela Haas
Reporterin. Autorin. Coach.
Zum piqer-Profil
Michaela HaasSonntag, 18.04.2021

Ich empfehle die Netflix-Doku Coded Bias, weil sie klar, spannend und eindeutig dokumentiert, was mir in dieser Schärfe gar nicht klar war: Wie rassistisch und frauenfeindlich Algorithmen sind.

Als die schwarze Computerwissenschaftlerin Joy Buolamwini am Media Lab des Massachusetts Institute of Technology mit einer Software arbeiten will, die ihr Gesicht vermessen soll, stellt sie erstaunt fest, dass die Software ihr Gesicht nicht erkennt. Wenn sie eine weiße Maske aufsetzt, funktioniert sie. Schließlich entdeckt sie die Ursache: Die KI der Software lernte fast ausschließlich an weißen Gesichtern.

Dass Algorithmen immer mehr unser Leben dominieren, ist eine Binse. Dass sie nur so gut sind wie diejenigen, die sie programmiert haben, auch. Aber was passiert, wenn fast ausschließlich weiße Männer programmieren, hat so klar noch keine Doku gezeigt.

Hier die Besprechung von Andrian Kreye in der Süddeutschen dazu:

"Coded Bias" ("Vorprogrammierte Diskriminierung") ist nach "The Great Hack" ("Cambridge Analyticas großer Hack") und "The Social Dilemma" ("Das Dilemma mit den sozialen Medien") die dritte Dokumentation in Spielfilmlänge, die Netflix zum Thema digitale Technologien und deren Auswirkungen auf die wirkliche Welt in den letzten zwei Jahren veröffentlicht hat. "Coded Bias" ist der bisher beste Film. Zum einen, weil er seine Sozialkritik fundiert mit Wissenschaft untermauert. Zum anderen liefert er den bisher klarsten Blick auf ein Themenfeld, das für große Teile der Öffentlichkeit so komplex wie langweilig ist. ... "Coded Bias" ist aber kein reiner Talking-Heads-Film. Er ist ein Feuerwerk aufschlussreicher Anekdoten. ... Durch die Vervielfachung von Vorurteilen in den Datensätzen besteht sogar die Gefahr, dass sozialer Fortschritt wieder rückgängig gemacht wird. Und das ist für alle ein Problem. Nur für die reichen, weißen Männer nicht.

Wenn die Software rassistisch ist

Möchtest du kommentieren? Dann werde jetzt Mitglied!

Kommentare 4
  1. Cornelia Gliem
    Cornelia Gliem · vor 14 Tagen

    Wir alle lernen an weißen Gesichtern... nun gut. viele. Hier bei uns in Deutschland z.B. Wieso sollte unsere Technik auch vor uns geschützt sein nicht wahr?

  2. Dietrich Welp
    Dietrich Welp · vor 19 Tagen

    Vielen Dank, klingt sehr interessant. Kann den Link aber leider nicht nutzen, da Netflix ein Abo erfordert.

    1. Michaela Haas
      Michaela Haas · vor 19 Tagen

      Das stimmt, das ist leider immer der Fall, wenn man eine Netflix-Doku vorschlägt. Man kann natürlich ein kostenloses Probeabo abschließen, damit hat man dann 30 Tage lang Zugang.

    2. Maximilian Rosch
      Maximilian Rosch · vor 16 Tagen

      Falls Du dich weiter mit dem Thema auseinandersetzen möchtest, gab es (im weiteren Sinne) letzte Woche drei weitere interessante Empfehlungen, die allesamt frei zugänglich sind:
      Einmal zum teilweise problematischen Einsatz von KI in Bewerbungsverfahren https://www.piqd.de/zu...
      Dann schon nah am gleichen Thema zum Bias von KI, rassistischen Tendenzen etc. https://www.piqd.de/fe...
      Und dann wieder etwas weiter weg über die fehlende Gendergerechtigkeit in Musikempfehlungsprogrammen https://www.piqd.de/po...

Bleib immer informiert! Hier gibt's den Kanal Fundstücke als Newsletter.

Abonnieren

Deine Hörempfehlungen
direkt aufs Handy!

Einfach die Hörempfehlungen unserer KuratorInnen als Feed in deinem Podcatcher abonnieren. Fertig ist das Ohrenglück!

Öffne deinen Podcast Feed in AntennaPod:

Wenn alles geklappt hat,
kannst du das Fenster schließen.

Öffne deinen Podcast Feed in Apple Podcasts:

Wenn alles geklappt hat,
kannst du das Fenster schließen.

Öffne deinen Podcast Feed in Downcast:

Wenn alles geklappt hat,
kannst du das Fenster schließen.

Öffne deinen Podcast Feed in Instacast:

Wenn alles geklappt hat,
kannst du das Fenster schließen.

Öffne deinen Podcast Feed in Apple Podcasts:

Wenn alles geklappt hat,
kannst du das Fenster schließen.

Öffne deinen Podcast Feed in Podgrasp:

Wenn alles geklappt hat,
kannst du das Fenster schließen.

Bitte kopiere die URL und füge sie in deine
Podcast- oder RSS-APP ein.

Wenn du fertig bist,
kannst du das Fenster schließen.

Link wurde in die Zwischenablage kopiert.

Öffne deinen Podcast Feed in gpodder.net:

Wenn alles geklappt hat,
kannst du das Fenster schließen.

Öffne deinen Podcast Feed in Pocket Casts:

Wenn alles geklappt hat,
kannst du das Fenster schließen.