Kanäle
Jetzt personalisiertes
Audiomagazin abonnieren
Log-in registrieren
piqd verwendet Cookies und andere Analysewerkzeuge um den Dienst bereitzustellen und um dein Website-Erlebnis zu verbessern.

handverlesenswert

Kluge Köpfe filtern für dich relevante Beiträge aus dem Netz.
Entdecke handverlesene Artikel, Videos und Audios zu deinen Themen.

Du befindest dich im Kanal:

Zukunft und Arbeit

Mit einem Audit gegen KI-basierten Bias in der Personalauswahl?

Ole Wintermann
Zum piqer-Profil
Ole WintermannDonnerstag, 25.03.2021

Die Personalabteilungen großer Firmen nutzen weltweit immer stärker künstliche Intelligenz (KI), um in teilautomatisierten Verfahren die geeigneten Bewerberinnen herauszufiltern und damit die Kosten des Einstellungsprozesses zu minimieren. Nachdem in den letzten beiden Jahren verstärkt Hinweise aufkamen, dass diese Sortiermechanismen zu Verzerrungen unterschiedlichen Ausmaßes führen könnten, versucht Politik nun, dieses Problem anzugehen.

"New York City policymakers are debating Int. 1894–2020, a proposed bill that would regulate the sale of automated employment decision-making tools. This bill calls for regular “bias audits” of automated hiring and employment tools."

Hierbei ergibt sich aber eine neue Herausforderung. War es noch einfach, die KI-induzierten Verzerrungen auf einer aggregierten Ebene zu erkennen (bspw. Bevorzugung von weißen Menschen), gestaltet sich die Umsetzung eines Auditierungsverfahrens schwieriger als erwartet. Die Autorin weist sogar darauf hin, dass die Gefahr bestehen könnte, dass Algorithmen, die im Sinne eines Audits als “technisch einwandfrei” zertifiziert werden könnten, den Bias unbewusst verstärken könnten. Das Problem liegt darin, das Maß der Norm und das Maß der Abweichung von der Norm zu bestimmen. Im Versuch, diese Granularität jenseits von Geschlechtergrenzen oder ethnischen Grenzen zu erreichen, werden inzwischen Erinnerungen wach an die Eugenik und Schädelkunde, da es nicht ausreicht, nur nach Ethnien zu unterscheiden; es müssten eigentlich unterschiedliche Mimiken der Ethnien identifiziert werden. Wäre ein Auditing-Verfahren somit das Einfallstor zur KI-basierten Eugenik?

Die Autorin schlägt mehrere Maßnahmen vor, um die Gefahr des Bias in Auditing-Verfahren auf anderen Wegen anzugehen. Erstens sollen insbesondere öffentliche Organisationen wie zum Beispiel Stadtverwaltungen transparent geführte Verzeichnisse über ihren Einsatz von KI-basierten Entscheidungsmechanismen anlegen. Zweitens muss diese Transparenz auch für die Auditing-Verfahren selbst gelten, um gute Beispiele für Standardprozesse der Risikomessung zu kommunizieren und einen internationalen Standard zu erreichen.

Drittens muss eine Debatte über den Nutzen von Auditing auf der einen und Effizienz des Auditing auf der anderen Seite geführt werden. Den Nutzen könnte ein holistisches Auditing nach Meinung der Autorin vor allem als Bestandteil des öffentlichen Beschaffungswesen zeigen, da an dieser Stelle eine Rechenschaftspflicht der Effizienz der Beschaffung gegenüber den Bürgerinnen besteht und damit politischer Druck aufgebaut werden kann.

Leider geht die Autorin am Ende aber nicht darauf ein, was “Verzerrung” im Auswahlprozess der Bewerberinnen ganz genau bedeutet. Bezieht sich Bias auf das Verhältnis der Bewerberzusammensetzung zur Grundgesamtheit der Bevölkerung, auf die Entscheidungskriterien der Auswahl oder die am Ende ausgewählte Menge der Bewerberinnen im Vergleich zur Grundgesamtheit? Diese Frage scheint bis heute in der KI-Ethikdebatte keine Rolle zu spielen.

Mit einem Audit gegen KI-basierten Bias in der Personalauswahl?

Möchtest du kommentieren? Dann werde jetzt Mitglied!

Kommentare 1
  1. Geronimo-Noah Hirschal
    Geronimo-Noah Hirschal · vor 7 Monaten

    Als Unternehmer im AI-Bereich ist es mir unverständlich, wie es zu einem fundamentalem Missverständnis dabei kommen konnte, wo „intelligente“ Programme sinnvoll einsetzbar sind.
    Nämlich: AI ist dort von Nutzen, wo die zu automatisierenden Prozesse zwischen Maschinen (m2m) oder Person und Maschine (p2m) erfolgen. Dort, wo Mensch zu Mensch (p2p) interagieren, und HR ist da DAS Paradebeispiel, sind Automatisierungsgedanken an Idiotie grenzend.
    Der zweite Irrsinn, in dem seit Jahren immense Geldsummen in fehlgeleitete Automatisierung versenkt werden: Service-Chatbots. Just my 2 kilobits...

Bleib immer informiert! Hier gibt's den Kanal Zukunft und Arbeit als Newsletter.

Abonnieren

Deine Hörempfehlungen
direkt aufs Handy!

Einfach die Hörempfehlungen unserer KuratorInnen als Feed in deinem Podcatcher abonnieren. Fertig ist das Ohrenglück!

Öffne deinen Podcast Feed in AntennaPod:

Wenn alles geklappt hat,
kannst du das Fenster schließen.

Öffne deinen Podcast Feed in Apple Podcasts:

Wenn alles geklappt hat,
kannst du das Fenster schließen.

Öffne deinen Podcast Feed in Downcast:

Wenn alles geklappt hat,
kannst du das Fenster schließen.

Öffne deinen Podcast Feed in Instacast:

Wenn alles geklappt hat,
kannst du das Fenster schließen.

Öffne deinen Podcast Feed in Apple Podcasts:

Wenn alles geklappt hat,
kannst du das Fenster schließen.

Öffne deinen Podcast Feed in Podgrasp:

Wenn alles geklappt hat,
kannst du das Fenster schließen.

Bitte kopiere die URL und füge sie in deine
Podcast- oder RSS-APP ein.

Wenn du fertig bist,
kannst du das Fenster schließen.

Link wurde in die Zwischenablage kopiert.

Öffne deinen Podcast Feed in gpodder.net:

Wenn alles geklappt hat,
kannst du das Fenster schließen.

Öffne deinen Podcast Feed in Pocket Casts:

Wenn alles geklappt hat,
kannst du das Fenster schließen.