Ich möchte an dieser Stelle die online frei zugängliche Publikation "Automatisierte Entscheidungssysteme und Diskriminierung. Ursachen verstehen, Fälle erkennen, Betroffene unterstützen" empfehlen. Es ist ein Ratgeber für Antidiskriminierungsstellen, aber auch für die Allgemeinheit von Interesse.

Wir alle wissen, dass die Welt ungerecht ist – viele von uns haben dies in der Schule, im Umgang mit der Polizei, bei der Bewerbung um einen Arbeitsplatz oder bei der Wohnungssuche erlebt. Wir haben sexistische oder rassistische Bemerkungen oder – noch schlimmer – Gewalt erlebt. Und viele Menschen dachten, das Problem würde verschwinden, sobald Computersysteme in die Entscheidungsfindung einbezogen würden.

Algorithmen verarbeiten einfach nur viele Daten auf objektive Art und Weise und heben menschliche Vorurteile auf?

Wir schreiben das Jahr 2022: Eine Schwarze Frau konnte sich in einer Hamburger Behörde nicht fotografieren lassen, weil der Fotoautomat ihr Gesicht nicht erkannte. Ein Mann in Italien zahlte deutlich mehr für seine Autoversicherung, als er seinen nigerianischen statt seines italienischen Passes vorlegte. Eine Stellenanzeige auf Facebook für eine Kinderbetreuerin wurde hauptsächlich Frauen angezeigt.

Anstatt Diskriminierung zu überwinden, haben wir sie automatisiert. Sexismus und Rassismus werden ständig in die Cloud hochgeladen.

Der Ratgeber soll dazu beitragen, dass algorithmische Diskriminierung nicht länger unbemerkt und unangefochten bleibt. Und er soll helfen, Veränderungen einzufordern und ein Bewusstsein für die realen Auswirkungen digitaler Diskriminierung zu schaffen. Wo sie vorkommen kann und was zu tun ist, wenn sie Ihnen widerfahren ist: Der Ratgeber "Automatisierte Entscheidungssysteme und Diskriminierung" hilft, solche Fälle besser zu erkennen und Betroffene zu unterstützen.