Ein Gastbeitrag – Lesezeit sechs Minuten – von Amba Kak für die ZEIT über die Bedrohung durch immer weiter um sich greifende Gesichtserkennungssysteme. Kak ist Juristin und Direktorin am AI Now Institute der New York University, „das sich der Erforschung von sozialen und politischen Folgen künstlicher Intelligenz verschrieben hat“. Aufhänger ihres Beitrags ist der Erfolg der Clearview-App:

Jeder Nutzer kann das Foto einer Person dort hochladen. Clearview durchsucht seine Datenbanken nach einer Übereinstimmung und spuckt, wenn eine gefunden wurde, detaillierte Informationen darüber aus, wer diese Person ist.

Die entsprechenden Informationen – die Datenbanken sollen drei Milliarden Fotos umfassen – will das Unternehmen im Internet, insbesondere bei Facebook, YouTube und Flickr (und somit aus meist privaten Kontexten) zusammengesammelt haben.

Kak formuliert drei Lehren: Zwar sei es ein berechtigter Kritikpunkt, dass Gesichtserkennungssysteme im Allgemeinen noch recht ungenau sind, was immer wieder zu Diskriminierungen und falschen Verdächtigungen bis hin zu Verhaftungen führt. Das eigentliche Problem sei jedoch grundlegender:

In der Regel werden diese Werkzeuge von denjenigen eingesetzt, die bereits Machtpositionen innehaben – Arbeitgeber etwa, Vermieterinnen oder die Polizei – und sie einsetzen, um diejenigen überwachen und zu kontrollieren, die über weniger Macht verfügen.

Das zweite Problem sei, dass die Nutzung zum großen Teil außerhalb einer öffentlichen und rechtlichen Kontrolle stattfindet.

Die Prozesse im öffentlichen Auftragswesen sind oft undurchsichtig. Unternehmen können sich auf ihr Geschäftsgeheimnis berufen, um zu verhindern, dass Forscher, Journalistinnen oder die Öffentlichkeit vollständig verstehen, wo, wie und mit welchen Konsequenzen diese Technologien zum Einsatz kommen.

Oder wie ein Leser in der Kommentarspalte treffend formuliert: „Sicherheit ist ein Herrschaftssystem, das nicht unbedingt mit bürgerlichen Freiheiten einhergeht.“

Schließlich fordert Kak, dass es hinsichtlich des Einsatzes der Technologie eine Pause geben müsse.

Gesichtserkennung ist eine Technologie, die sehr schwer rückzubauen ist, wenn sie einmal eingesetzt wurde.

Interessant ist der Hinweis auf ein Gesetz im US-amerikanischen Bundesstaat Illinois, das die Privatheit biometrischer Informationen garantiert. Auf dessen Basis können Bürger Unternehmen, die solche Informationen ohne ihre Einwilligung nutzen, verklagen, was Facebook im Rahmen einer Sammelklage vor ein paar Wochen schon einmal 550 Millionen Dollar Strafe gekostet hat.

Lesenswert.

P.S.: Heute berichtet die SZ, dass Lufthansa Gesichtserkennung beim Boarding ihrer Flugzeuge testen will.