Dass wir das Internet überhaupt besuchen können, ohne wahnsinnig zu werden, liegt an ihnen: Content-Moderatoren, die im Akkord brutale, menschenverachtende, übermäßig gehässige, rassistische und überhaupt illegale Inhalte sichten, markieren und sie löschen (lassen). Die großen Social-Media-Plattformen setzen schon lange auf sie, oft in Billiglohn-Ländern. Auch im Bereich generativer KI gibt es ähnliche Jobs. Denn Menschen prüfen einen Teil der Daten für die großen Sprachmodelle wie Bard oder ChatGPT noch einmal. Dieses Feedback von Menschen ist Teil des Lernprozesses und macht die Programme so "intelligent", dass sie menschlich auf ihre Nutzer wirken.

Dass in diesem Bereich die Regeln, auf die die Tech-Branche demonstrativ setzt, nicht viel wert sind, zeigt diese Recherche von Reporter Alex Kantrowitz in seinem Newsletter Big Technology. Er hat mit dem Kenianer Richard Mathenge gesprochen, der einer jener Content-Sichter war, die im Auftrag von OpenAI arbeiteten: er hat den Datensatz für ChatGPT gesichtet und das eklige Zeug rausgefiltert. Kantrowitz deutet die Dinge, die Mathenge und seine Leute sich ansehen mussten, nur an. Das reicht auch.

Die Geschichte, die Kantrowitz zutage fördert, klingt erschreckend bekannt und ist ebenso wichtig: Outsourcing in arme Länder, schlechte Löhne – und auf beiden Seiten des Atlantiks ducken sich alle weg, um die Verantwortung für traumatisierte Moderatoren zu vermeiden. Nur dass es in diesem Fall um jene Menschen geht, die wie Märtyrer alle Sünden des Netzes auf sich laden, nur damit wir eine "saubere Experience" haben, wenn wir das Handy zücken.

Kantrowitz' trockene Wiedergabe der Kommunikation mit OpenAI und Sama, dem Unternehmen, das Mathenge in Kenia beschäftigte, liest sich kafkaesk:

The OpenAI spokesperson said the company sought more information from Sama about its working conditions. Sama, the spokesperson said, then informed OpenAI it was exiting the content moderation space. Sama did not respond to a request for comment. 

Stolz, an dem Bot, der die Welt ganz kirre macht, mitgearbeitet zu haben, ist Richard Mathenge übrigens trotzdem. So vielschichtig können solche Geschichten sein.