Kanäle
Jetzt personalisiertes
Audiomagazin abonnieren
Log-in registrieren
forum verwendet Cookies und andere Analysewerkzeuge um den Dienst bereitzustellen und um dein Website-Erlebnis zu verbessern.

handverlesenswert

Kluge Köpfe filtern für dich relevante Beiträge aus dem Netz.
Entdecke handverlesene Artikel, Videos und Audios zu deinen Themen.

Du befindest dich im Kanal:

Technologie und Gesellschaft

Die wahnsinnige Seite von ChatGPT

Jannis Brühl
Redakteur
Zum picker-Profil
Jannis BrühlSonntag, 21.05.2023

Dass wir das Internet überhaupt besuchen können, ohne wahnsinnig zu werden, liegt an ihnen: Content-Moderatoren, die im Akkord brutale, menschenverachtende, übermäßig gehässige, rassistische und überhaupt illegale Inhalte sichten, markieren und sie löschen (lassen). Die großen Social-Media-Plattformen setzen schon lange auf sie, oft in Billiglohn-Ländern. Auch im Bereich generativer KI gibt es ähnliche Jobs. Denn Menschen prüfen einen Teil der Daten für die großen Sprachmodelle wie Bard oder ChatGPT noch einmal. Dieses Feedback von Menschen ist Teil des Lernprozesses und macht die Programme so "intelligent", dass sie menschlich auf ihre Nutzer wirken.

Dass in diesem Bereich die Regeln, auf die die Tech-Branche demonstrativ setzt, nicht viel wert sind, zeigt diese Recherche von Reporter Alex Kantrowitz in seinem Newsletter Big Technology. Er hat mit dem Kenianer Richard Mathenge gesprochen, der einer jener Content-Sichter war, die im Auftrag von OpenAI arbeiteten: er hat den Datensatz für ChatGPT gesichtet und das eklige Zeug rausgefiltert. Kantrowitz deutet die Dinge, die Mathenge und seine Leute sich ansehen mussten, nur an. Das reicht auch.

Die Geschichte, die Kantrowitz zutage fördert, klingt erschreckend bekannt und ist ebenso wichtig: Outsourcing in arme Länder, schlechte Löhne  und auf beiden Seiten des Atlantiks ducken sich alle weg, um die Verantwortung für traumatisierte Moderatoren zu vermeiden. Nur dass es in diesem Fall um jene Menschen geht, die wie Märtyrer alle Sünden des Netzes auf sich laden, nur damit wir eine "saubere Experience" haben, wenn wir das Handy zücken.

Kantrowitz' trockene Wiedergabe der Kommunikation mit OpenAI und Sama, dem Unternehmen, das Mathenge in Kenia beschäftigte, liest sich kafkaesk:

The OpenAI spokesperson said the company sought more information from Sama about its working conditions. Sama, the spokesperson said, then informed OpenAI it was exiting the content moderation space. Sama did not respond to a request for comment. 

Stolz, an dem Bot, der die Welt ganz kirre macht, mitgearbeitet zu haben, ist Richard Mathenge übrigens trotzdem. So vielschichtig können solche Geschichten sein.

Die wahnsinnige Seite von ChatGPT

Möchtest du kommentieren? Dann werde jetzt kostenlos Mitglied!

Kommentare 2
  1. Charlotte Möller
    Charlotte Möller · vor 11 Monaten

    Als Ergänzung sei hier die Doku "The Cleaners" empfohlen. Da erfährt man nochmal sehr viel über diese "Unsichtbaren", die mit ihrer Psyche (teils auch mit ihrem Leben) dafür zahlen, dass wir halbwegs zumutbaren Content erhalten. Die Doku ließ mich sprachlos zurück.
    https://www.ardmediath...

  2. Omar Adam Ayaita
    Omar Adam Ayaita · vor 11 Monaten

    Bei manchen Arbeiten - so auch bei dieser - denke ich, dass es wahrscheinlich besser wäre, sie unter mehr Menschen aufzuteilen, so dass niemand den ganzen Tag so was machen muss.

Bleib immer informiert! Hier gibt's den Kanal Technologie und Gesellschaft als Newsletter.

Abonnieren

Deine Hörempfehlungen
direkt aufs Handy!

Einfach die Hörempfehlungen unserer KuratorInnen als Feed in deinem Podcatcher abonnieren. Fertig ist das Ohrenglück!

Öffne deinen Podcast Feed in AntennaPod:

Wenn alles geklappt hat,
kannst du das Fenster schließen.

Öffne deinen Podcast Feed in Apple Podcasts:

Wenn alles geklappt hat,
kannst du das Fenster schließen.

Öffne deinen Podcast Feed in Downcast:

Wenn alles geklappt hat,
kannst du das Fenster schließen.

Öffne deinen Podcast Feed in Instacast:

Wenn alles geklappt hat,
kannst du das Fenster schließen.

Öffne deinen Podcast Feed in Apple Podcasts:

Wenn alles geklappt hat,
kannst du das Fenster schließen.

Öffne deinen Podcast Feed in Podgrasp:

Wenn alles geklappt hat,
kannst du das Fenster schließen.

Bitte kopiere die URL und füge sie in deine
Podcast- oder RSS-APP ein.

Wenn du fertig bist,
kannst du das Fenster schließen.

Link wurde in die Zwischenablage kopiert.

Öffne deinen Podcast Feed in gpodder.net:

Wenn alles geklappt hat,
kannst du das Fenster schließen.

Öffne deinen Podcast Feed in Pocket Casts:

Wenn alles geklappt hat,
kannst du das Fenster schließen.