Kanäle
Jetzt personalisiertes
Audiomagazin abonnieren
Log-in registrieren
piqd verwendet Cookies und andere Analysewerkzeuge um den Dienst bereitzustellen und um dein Website-Erlebnis zu verbessern.

handverlesenswert

Kluge Köpfe filtern für dich relevante Beiträge aus dem Netz.
Entdecke handverlesene Artikel, Videos und Audios zu deinen Themen.

Du befindest dich im Kanal:

Technologie und Gesellschaft

Mental Health-Start-up nutzt ChatGPT für Menschen-Experiment

René Walter
Grafik-Designer, Blogger, Memetiker | goodinternet.substack.com

Irgendwas mit Medien seit 1996, Typograph, Grafiker, Blogger. Ask me anything.

Zum piqer-Profil
René WalterMittwoch, 11.01.2023

Vice berichtet über einen Fall, der auf Twitter bereits für Aufregung sorgte: Das Startup "Koko", das Beratung während psychischer Krisensituationen bereitstellt, hatte in einem Experiment mit rund 4000 Nutzern das auf der künstlichen Intelligenz GPT3 basierende Chat-Interface ChatGPT eingesetzt. 

Laut Unternehmen kommunizierten die Probanden nicht direkt mit der K.I., sondern mit echten Menschen, die von diesem Chatbot unterstützt wurden. Ob die Nutzer in dieses Experiment einwilligten und ob diese mögliche Einwilligung tatsächlich informed consent darstellt, ist unklar, nachdem der Gründer auf Twitter mitteilte, das Verhalten der Probanden habe sich nach der Information über den Einsatz der K.I. merklich verändert.

ChatGPT ist das neueste Wunderspielzeug von OpenAI und ist bekannt dafür, nicht nur lustige Texte über die Entfernung eines Sandwiches aus einem Videorecorder zu schreiben, sondern auch für seine Anfälligkeit für "Halluzinationen" und Fehler. Gary Marcus, dessen Arbeit ich erst vor wenigen Tagen in einem piq vorstellte, hat einen ChatGPT-Errortracker online gestellt, auf dessen Ergebnisse ich sehr gespannt bin.

Der Einsatz einer solchen Software, die anfällig ist für Fehler und Halluzinationen, im Live-Betrieb bei einem solch sensiblen Thema wie Mental Health-Beratung, ist absolut unverantwortlich und nicht wenige Stimmen mutmaßen bereits juristische Konsequenzen für das Unternehmen. Und der Vorfall ereignet sich zu einem Zeitpunkt, in dem der Einsatz von künstlicher Intelligenz im Gesundheitswesen von Wissenschaftlern stark kritisiert wird.

Auch in diesem Fall gilt wieder einmal die alte Weisheit von Cory Doctorow: "Asuming nothing will go wrong doesn't make you an optimist. It makes you an asshole. A dangerous asshole."

Mental Health-Start-up nutzt ChatGPT für Menschen-Experiment

Möchtest du kommentieren? Dann werde jetzt kostenlos Mitglied!

Kommentare 1
  1. Cornelia Gliem
    Cornelia Gliem · vor 20 Tagen

    Das abschließende Zitat halte ich für falsch. klar im Kontext des zitierten Zitats :-) verstehe ich es, aber ich denke schon dass es einen zum Optimisten macht. ggfs. Zu einem gefährlichen Optimisten einem uniformierten ignoranten - aber ein Arschloch? nein :-).

Bleib immer informiert! Hier gibt's den Kanal Technologie und Gesellschaft als Newsletter.

Abonnieren

Deine Hörempfehlungen
direkt aufs Handy!

Einfach die Hörempfehlungen unserer KuratorInnen als Feed in deinem Podcatcher abonnieren. Fertig ist das Ohrenglück!

Öffne deinen Podcast Feed in AntennaPod:

Wenn alles geklappt hat,
kannst du das Fenster schließen.

Öffne deinen Podcast Feed in Apple Podcasts:

Wenn alles geklappt hat,
kannst du das Fenster schließen.

Öffne deinen Podcast Feed in Downcast:

Wenn alles geklappt hat,
kannst du das Fenster schließen.

Öffne deinen Podcast Feed in Instacast:

Wenn alles geklappt hat,
kannst du das Fenster schließen.

Öffne deinen Podcast Feed in Apple Podcasts:

Wenn alles geklappt hat,
kannst du das Fenster schließen.

Öffne deinen Podcast Feed in Podgrasp:

Wenn alles geklappt hat,
kannst du das Fenster schließen.

Bitte kopiere die URL und füge sie in deine
Podcast- oder RSS-APP ein.

Wenn du fertig bist,
kannst du das Fenster schließen.

Link wurde in die Zwischenablage kopiert.

Öffne deinen Podcast Feed in gpodder.net:

Wenn alles geklappt hat,
kannst du das Fenster schließen.

Öffne deinen Podcast Feed in Pocket Casts:

Wenn alles geklappt hat,
kannst du das Fenster schließen.