Künstliche Intelligenz ist nicht neutral. Die Vorurteile, die wir Menschen übereinander haben, sind in KI-gestützte Tools bereits eingebaut. Das habe ich in letzter Zeit oft gehört und gelesen. Doch was genau ist damit gemeint? Die Tech-Forscherin Kate Crawford kann das sehr gut erklären. In dem Video, das ihren Vortrag beim letztjährigen South by Southwest-Festival zeigt, geht sie der Frage auf den Grund, warum KI anscheinend ein so gutes Werkzeug für Faschisten ist. Sie macht klar, dass aktuelle politische Entwicklungen hin zu mehr Autokratie und die Verbreitung von KI parallel geschehen:

Just as we are seeing a step function increase in the spread of AI, something else is happening: the rise of ultra-nationalism, rightwing authoritarianism and fascism.

Die aktuellen politischen Bewegungen haben gemeinsame Merkmale, einschließlich des Wunsches, die Macht zu zentralisieren, die Bevölkerung zu kontrollieren und Außenstehende zu dämonisieren – gepaart mit dem Verlangen nach Autorität, verpackt in vermeintliche Neutralität. KI könne diesen Bestrebungen in die Hände spielen, so Crawford. Ein Beispiel für Missbrauchspotenzial von KI: Fehlerhafte Gesichtserkennungssoftware, die angeblich anhand von Bildern zwischen Kriminellen und Nicht-Kriminellen unterscheiden kann.

Crawford verfolgt das Thema "Politik der Künstlichen Intelligenz" weiter. In diesem Sommer sprach sie über die ethische Verantwortung im Bereich des Machine Learning und machte einmal mehr deutlich, wie schädlich KI-gestützte Klassifierungstools für bestimmte Bevölkerungsgruppen sind. Die Forschungsarbeit von Crawford kann man auf der Webseite von AI Now verfolgen.