Wenn ich es richtig verstanden habe, funktioniert das Prinzip der künstlichen Intelligenz (KI) wie folgt: von Menschen gemachte Programme nutzen frei verfügbare Daten aus dem Netz oder anderen Pools, um sich Muster und Strukturen anzueignen und dadurch selbstständig denken zu lernen und ultimativ Entscheidungen zu treffen. Weil aber die zugrunde liegenden Daten einen historischen Bias beinhalten, ist auch die KI voreingenommen. 

Beispiel 1: Viele Übersetzungsprogramme, die auf KI basieren, tragen einen sexistischen Bias in sich. So werden "typisch männliche Berufe" in den Übersetzungen immer Cis-Männern zugewiesen, obwohl einige Ursprungssprachen (zum Beispiel Englisch oder Finnisch) genderneutral sind. Ärzt*innen sind dann in der Übersetzung immer Männer, Krankenpfleger*innen immer Frauen. 

Beispiel 2: In den USA nutzen einige Richter*innen (warum auch immer) eine KI-Software, die das Rückfallrisiko von Häftlingen ausrechnet. Eine Untersuchung des Journalistenverbundes ProPublica wies eine Diskriminierung aufgrund der Hautfarbe nach. Weiße Häftlinge wurden von der KI systematisch mit einem geringeren Rückfallrisiko bewertet. Bedeutet im Umkehrschluss: für nicht-weiße Häftlinge entscheidet die KI, dass sie besser alle keine Hafterleichterung bekommen sollten. 

Mit dem vermehrten Einsatz von KI in den verschiedensten Bereichen des Lebens und Zusammenlebens steigt also auch das potenzial automatisierter Diskriminierung: Schwarze Menschen werden im Gesundheitssystem benachteiligt, Frauen werden bei der Vergabe von Krediten durch Banken benachteiligt oder die KI entscheidet zu Ungunsten eines Bewerbers (auf egal etwas) anhand der angegebenen Postleitzahl des Wohnorts. Falsche Postleitzahl = keine Chance. So werden neue Daten erzeugt und daraus lernt die KI weiter. 

Die künstliche Intelligenz übernimmt also die Dummheit der Menschheit und verstärkt sie, indem sie sie automatisiert weiterführt. Im verlinkten Beitrag zu einer aktuellen Münsteraner Tagung zum Thema heißt es: Unter Programmierer*innen herrscht für dieses Problem so gut wie keine Sensibilisierung. Die KI reflektiert also auch die Einstellung ihrer Macher*innen. Ein intelligenter Ausweg aus diesem Dilemma ist nicht in Sicht.