Einmal vor der Webcam das falsche Produkt auf dem Bildschirm angelächelt und schon wird man mit Werbung überschüttet. Oder beim Bewerbungsgespräch über Zoom einmal zu wenig gelächelt und schon sagt der Computer nein. Das sind nur zwei von vielen Einsatzmöglichkeiten moderner Emotion-Recognition-Systems, die durch maschinelles Lernen auf das Erkennen emotionaler Zustände trainiert wurden. Oder genauer: auf das Erkennen bestimmter visueller Muster in menschlichen Gesichtern, die sich in der Regel bestimmten emotionalen Zuständen zuordnen lassen. Wie so oft bei so genannter »Künstlicher Intelligenz«, werden auch den digitalen Systemen zur Emotionserkennung Fähigkeiten zugeschrieben, die sie schlicht (noch?) nicht erfüllen können. Und diese magischen Zuschreibungen sind ein Einfallstor für Möglichkeiten der Manipulation und Diskriminierung.

»The use of emotion recognition technologies is deeply concerning as not only are these systems based on discriminatory and discredited science, their use is also fundamentally inconsistent with human rights […]. An important learning from the trajectory of facial recognition systems across the world has been to question the validity and need for technologies early and often – and projects that emphasise on the limitations and dangers of emotion recognition are an important step in that direction.«

So wird die leitende Programmbeauftrage Vidushi Marda der Menschenrechtsorganisation Article 19 vom hier gepiqten Guardian zitiert. Und ein Projekt, das eben genau auf diese Grenzen und Gefahren der Emotionserkennung aufmerksam macht, stammt von einer Forschergruppe der Universität in Cambridge. Sie haben eine Website namens Emojify veröffentlicht, auf der sich die Tücken der Technologie selbst erproben lassen. Ein sehenswertes Video vermittelt die Hintergründe. Kernstück der Seite ist aber ein kleines Tool, mit dem man versuchen kann, den Algorithmus vor der eigenen Webcam auszutricksen und »Gefühle« durch Grimassen vorzutäuschen. Weil echte Gefühlszustände dann eben doch weitaus komplexer sind, klappt das erschreckend einfach. Also fix das schönste falsche Lächeln aufsetzen!