Die Welt wird aus Programmcode neu geschrieben, und Verzerrungen und Fehler in diesem Code können uns lange begleiten, vielleicht für immer. Im Zuge der Black Lives Matter-Debatte nehmen Aktivisten und Computerwissenschaftler deshalb die Algorithmen unter die Lupe, die Minderheiten benachteiligen oder sie gar nicht wahrnehmen. Am offensichtlichsten ist das bei Technik zur Gesichtserfassung, die sich immer weiter ausbreitet. Ihre Entwicklung wird vor allem von Amazon, Google und Facebook vorangetrieben, aber auch von kleineren Unternehmen, die ihre Software nicht immer ganz transparent dem Sicherheitsapparat andienen. Und die auffälligste dieser Kämpfer ist - nicht nur dank ihrer extravaganten Brille -  Joy Buolamwini. Mit der Algorithmic Justice League kämpft sie gegen Software, die schwarze Frauen als weiße Männer einordnet und arabischstämmige Menschen als Terroristen.

Buolamwini ist am MIT ausgebildet, ist Rhodes Scholar, Fulbright Fellow und Computertalent, aber für die Maschine war sie unsichtbar - bis sie eine weiße, gespensterhafte Maske aufsetzte:

She was creating a whimsical augmented reality project and the off-the-shelf computer vision technology that she was using had trouble detecting her face. When she put on a white mask, obscuring her features entirely, the computer recognized her...As an undergraduate at Georgia Tech, Buolamwini had had to “borrow” her roommate’s face in order to teach a robot to play peek-a-boo.

Das Porträt aus der "Fast-Company"-Liste der "30 kreativsten Menschen in Tech" zeichnet knapp ihren persönlichen Weg von der IT-lerin zur Aktivistin nach und ist eine gute Einführung ins Thema algorithmic bias. Wie eine ihrer Kolleginnen sagt: “Before Joy’s research, people would say with a straight face, ‘Algorithms can’t be racist.'"