Kanäle
Jetzt personalisiertes
Audiomagazin abonnieren
Log-in registrieren
piqd verwendet Cookies und andere Analysewerkzeuge um den Dienst bereitzustellen und um dein Website-Erlebnis zu verbessern.

handverlesenswert

Kluge Köpfe filtern für dich relevante Beiträge aus dem Netz.
Entdecke handverlesene Artikel, Videos und Audios zu deinen Themen.

Du befindest dich im Kanal:

Feminismen

Dumme künstliche Intelligenz

Mohamed Amjahid
Buchautor und Journalist

Reporter, Kurator, Autor für deutsche und internationale Medien. Studium der Politikwissenschaft/Anthropologie. Themen: Weiße Mehrheitsgesellschaft, MENA, Autokratien, Kapitalismuskritik, Feminismus und kritische Theorie.

Zum piqer-Profil
Mohamed AmjahidMontag, 12.04.2021

Wenn ich es richtig verstanden habe, funktioniert das Prinzip der künstlichen Intelligenz (KI) wie folgt: von Menschen gemachte Programme nutzen frei verfügbare Daten aus dem Netz oder anderen Pools, um sich Muster und Strukturen anzueignen und dadurch selbstständig denken zu lernen und ultimativ Entscheidungen zu treffen. Weil aber die zugrunde liegenden Daten einen historischen Bias beinhalten, ist auch die KI voreingenommen. 

Beispiel 1: Viele Übersetzungsprogramme, die auf KI basieren, tragen einen sexistischen Bias in sich. So werden "typisch männliche Berufe" in den Übersetzungen immer Cis-Männern zugewiesen, obwohl einige Ursprungssprachen (zum Beispiel Englisch oder Finnisch) genderneutral sind. Ärzt*innen sind dann in der Übersetzung immer Männer, Krankenpfleger*innen immer Frauen. 

Beispiel 2: In den USA nutzen einige Richter*innen (warum auch immer) eine KI-Software, die das Rückfallrisiko von Häftlingen ausrechnet. Eine Untersuchung des Journalistenverbundes ProPublica wies eine Diskriminierung aufgrund der Hautfarbe nach. Weiße Häftlinge wurden von der KI systematisch mit einem geringeren Rückfallrisiko bewertet. Bedeutet im Umkehrschluss: für nicht-weiße Häftlinge entscheidet die KI, dass sie besser alle keine Hafterleichterung bekommen sollten. 

Mit dem vermehrten Einsatz von KI in den verschiedensten Bereichen des Lebens und Zusammenlebens steigt also auch das potenzial automatisierter Diskriminierung: Schwarze Menschen werden im Gesundheitssystem benachteiligt, Frauen werden bei der Vergabe von Krediten durch Banken benachteiligt oder die KI entscheidet zu Ungunsten eines Bewerbers (auf egal etwas) anhand der angegebenen Postleitzahl des Wohnorts. Falsche Postleitzahl = keine Chance. So werden neue Daten erzeugt und daraus lernt die KI weiter. 

Die künstliche Intelligenz übernimmt also die Dummheit der Menschheit und verstärkt sie, indem sie sie automatisiert weiterführt. Im verlinkten Beitrag zu einer aktuellen Münsteraner Tagung zum Thema heißt es: Unter Programmierer*innen herrscht für dieses Problem so gut wie keine Sensibilisierung. Die KI reflektiert also auch die Einstellung ihrer Macher*innen. Ein intelligenter Ausweg aus diesem Dilemma ist nicht in Sicht.  

Dumme künstliche Intelligenz

Möchtest du kommentieren? Dann werde jetzt Mitglied!

Kommentare 1
  1. Felix TheC
    Felix TheC · vor 23 Tagen · bearbeitet vor 23 Tagen

    Das kein Problembewusstsein herrscht ist nicht ganz richtig. Es wird in letzter Zeit sehr viel über repräsentative Datensätze gesprochen. Also Datensätze aus denen eine KI lernen kann. Diese Datensätze werden repräsentativ aufgearbeitet und sollen eben die Fehler der Vergangenheit nicht wiederholen.

Bleib immer informiert! Hier gibt's den Kanal Feminismen als Newsletter.

Abonnieren

Deine Hörempfehlungen
direkt aufs Handy!

Einfach die Hörempfehlungen unserer KuratorInnen als Feed in deinem Podcatcher abonnieren. Fertig ist das Ohrenglück!

Öffne deinen Podcast Feed in AntennaPod:

Wenn alles geklappt hat,
kannst du das Fenster schließen.

Öffne deinen Podcast Feed in Apple Podcasts:

Wenn alles geklappt hat,
kannst du das Fenster schließen.

Öffne deinen Podcast Feed in Downcast:

Wenn alles geklappt hat,
kannst du das Fenster schließen.

Öffne deinen Podcast Feed in Instacast:

Wenn alles geklappt hat,
kannst du das Fenster schließen.

Öffne deinen Podcast Feed in Apple Podcasts:

Wenn alles geklappt hat,
kannst du das Fenster schließen.

Öffne deinen Podcast Feed in Podgrasp:

Wenn alles geklappt hat,
kannst du das Fenster schließen.

Bitte kopiere die URL und füge sie in deine
Podcast- oder RSS-APP ein.

Wenn du fertig bist,
kannst du das Fenster schließen.

Link wurde in die Zwischenablage kopiert.

Öffne deinen Podcast Feed in gpodder.net:

Wenn alles geklappt hat,
kannst du das Fenster schließen.

Öffne deinen Podcast Feed in Pocket Casts:

Wenn alles geklappt hat,
kannst du das Fenster schließen.