Business Insider hat eine Artikel-Serie über LLMs: Large, creative AI models will transform lives and labour markets, How generative models could go wrong, The world needs an international agency for artificial intelligence, say two AI experts, How to worry wisely about artificial intelligence, Large language models’ ability to generate text also lets them plan and reason.

Der interessanteste aber ist dieser: How AI could change computing, culture and the course of history, in dem sie zum Glück nicht nur über die breit diskutierten Themen wie Halluzinationen, Desinformation usw. sprechen, sondern auch Fragen danach stellen, wie diese Technologie die menschliche Wahrnehmung verändern könnte und welche Auswirkungen dies auf unsere Psyche hat. Dies ist ein Thema, das mich interessiert, seitdem ich gesehen habe, wie soziale Medien und das Web dasselbe tun, mit weitreichenden Konsequenzen auf der ganzen Welt.

Die Veränderung der menschlichen Wahrnehmung durch Technologie ist nicht neu, aber immer revolutionär. Sprache hat unsere kognitive Evolution in Gang gesetzt, Schreiben ermöglichte die Agrar-Revolution, bewegliche Lettern und die Druckerpresse führten zu Jahrzehnten religiöser Kriege in Europa, das Internet und soziale Medien gaben uns ein Wiederaufleben des Tribalismus und atomisierten unsere gemeinsame Sicht auf die Welt. Es gibt keinen Grund zu glauben, dass KI keinen signifikanten Einfluss auf die menschliche Kognition haben wird, wie wir miteinander umgehen und auf welche Weise dies schief gehen wird, was durchaus garantiert ist.

Eine dieser kognitiven Gefahren von KI verbirgt sich in diesem Absatz:

An obvious application of the technology is to turn bodies of knowledge into subject matter for chatbots. Rather than reading a corpus of text, you will question an entity trained on it and get responses based on what the text says. Why turn pages when you can interrogate a work as a whole?

Eine offensichtliche Anwendung der Technologie besteht darin, Wissensgebiete in thematisierte Chatbots zu verwandeln. Anstatt Texte zu lesen, befragt man eine finetuned AI. Warum durch ein Werk ackern, wenn Sie ein Buch oder gleich eine ganze Denkweise als Ganzes per Sprachinterface befragen können?

Weil Sie die richtigen Fragen nicht kennen. Selbst wenn Sie mit einem Thema sehr vertraut sind, gibt Ihnen die einzigartige Perspektive eines menschlichen Autors, die in einem Text mitformuliert ist, neue Ideen und Perspektiven, aus denen neue Einsichten hervorgehen. Man kann einen Text daher nicht vollständig befragen, wenn Sie ihn nicht wirklich gelesen haben. Als Begleitwerkzeug kann dies natürlich sehr nützlich sein, genauso wie das Lesen einer Wikipedia-Seite zu einem Buch, das Sie gerade lesen – aber niemals als Ersatz zur Lektüre.

Darüber hinaus besteht die Möglichkeit, dass KI zu einer Welt synthetischer Geister führen kann, in der digitale AI-Zwillinge anhand unserer Persönlichkeitsmerkmale aus Beiträgen, Podcasts, Videos usw. trainiert werden und dieses Modell potenziell für immer nach Ihrem Tod lebt. Was passiert mit der menschlichen Psyche, wenn Sie immer mit einem realistischen Modell Ihrer verstorbenen Mutter sprechen können? Wir haben keine Ahnung.

Der Artikel zitiert als frühes Beispiel Laurie Anderson, die Ehefrau des verstorbenen Velvet Underground-Sängers Lou Reed. Sie hat einen KI-Assistenten, der auf ihrer Arbeit und der ihres Mannes trainiert ist: "Sie betrachtet die Verwendung der KI nicht als Zusammenarbeit mit ihrem verstorbenen Partner", wahrscheinlich, weil das System nur auf den kreativen Output von Reed und Anderson trainiert wurde, nicht auf weitere Persönlichkeitsmerkmale. Zukünftige Systeme werden jedoch sicherlich so ausgefeilt sein, dass sie als "synthetische Persönlichkeitszwillinge" durchgehen können.

Freuds Konzept des Unheimlichen, bei dem Menschen nicht wirklich entscheiden können, ob etwas an seinem richtigen Platz (un-heim-lich) oder lebendig oder tot ist, wird dann zum zentralen Thema bei Fragen dieser mimetischen KI-Modelle der Toten, und es kann unsere psychologischen Mechanismen des Trauerprozesses stören, über die ich vor ein paar Monaten hier geschrieben habe.

Dies sind einige der Probleme am Horizont, die mich am meisten beschäftigen – nicht Paperclip-Maximizer, nicht Desinformation – , die Unknown Unknowns der AI zeigen sich schnell dieser Tage.

Ich habe zwar die Forderung eines Moratoriums unterschrieben, relevanter zu sein erscheint mir aber aus den grade genannten Gründen der von mir hier gepiqde offene Brief von Wissenschaftlern der Universität Leuven in Belgien: We are not ready for manipulative AI.

the recent chatbot-encouraged suicide in Belgium highlights another major concern: the risk of manipulation. While this tragedy illustrates one of the most extreme consequences of this risk, emotional manipulation can also manifest in subtler forms. Once people get the feeling they interact with a ‘subjective’ entity, they build a bond – even unconsciously – that exposes them. This is not an isolated incident. Other users of text-generating AI also described its manipulative effects. (…)
Most users realise rationallythat the chatbot they interact with has no understanding and is just an algorithm that predicts the most plausible combination of words.It is, however, in our human nature to react emotionally to such interactions. This also means that merely obliging companies to indicate “this is an AI system and not a human being” is not a sufficient solution.
Some individuals are more susceptible than others to these effects. For instance, children can easily interact with chatbots that first gain their trust and later spew hateful or conspiracy-inspired language and encourage suicide, which is rather alarming. Yet also consider those without a strong social network or who are lonely or depressed – precisely the category which, according to the bots’ creators, can get the most ‘use’ from them. The fact that there is a loneliness pandemic and a lack of timely psychological help only increases the concern.
It is, however, important to underline that everyone can be susceptible to the manipulative effects of such systems, as the emotional response they elicit occurs automatically, even without even realising it.
“Human beings, too, can generate problematic text, so what’s the problem” is a frequently heard response. But AI systems function on a much larger scale. And if a human had been communicating with the Belgian victim, we would have classified its actions as incitement to suicide and failure to help a person in need – punishable offences. 

Frei adaptierte, gekürzte und editierte Maschinenübersetzung aus meinem Newsletter: AIs Unheimlich-Effect.