Kanäle
Jetzt personalisiertes
Audiomagazin abonnieren
Log-in registrieren
forum verwendet Cookies und andere Analysewerkzeuge um den Dienst bereitzustellen und um dein Website-Erlebnis zu verbessern.

handverlesenswert

Kluge Köpfe filtern für dich relevante Beiträge aus dem Netz.
Entdecke handverlesene Artikel, Videos und Audios zu deinen Themen.

Du befindest dich im Kanal:

Technologie und Gesellschaft

Offener Brief fordert Pause in der Entwicklung von KI-Systemen

René Walter
Grafik-Designer, Blogger, Memetiker | goodinternet.substack.com

Irgendwas mit Medien seit 1996, Typograph, Grafiker, Blogger. Ask me anything.

Zum picker-Profil
René WalterMittwoch, 29.03.2023
Rund 1.000 KI-Entwickler, Forscher, Philosophen und Unternehmer haben nun in einem offenen Brief dazu aufgerufen, eine sechs Monate dauernde Pause bei der Forschung an KI-Systemen einzulegen, die stärker und fähiger sein könnten als GPT-4. Unter den Unterzeichnern sind Tesla-Chef Elon Musk, der Apple-Co-Gründer Steve Wozniak, der Neurowissenschaftler Gary Marcus und Emad Mostaque, der Chef des Stable-Diffusion-Mitentwicklers Stability AI.

Ich habe den offenen Brief grade unterzeichnet und in meinem Newsletter aufgeschrieben, warum: KI-Systeme die menschenähnliches Verhalten aufzeigen, laufen Gefahr, die menschliche Fähigkeit für Theory of Mind zu kapern, und diese Fähigkeit ist grundlegend für unsere anderen kognitiven Fähigkeiten wie Lernen oder Sprache.

Social Media hat bereits gezeigt, dass “move fast and break things“ unvorhersehbare Konsequenzen zeitigen kann. Ich denke nicht, dass ich das für Systeme sehen möchte, die menschliche Kognition imitieren. 

Move fast and break brains: Can we not?

Offener Brief fordert Pause in der Entwicklung von KI-Systemen

Möchtest du kommentieren? Dann werde jetzt kostenlos Mitglied!

Kommentare 4
  1. Sebastian Gallehr
    Sebastian Gallehr · vor einem Jahr

    Man könnte es versuchen, die ganze Welt davon zu überzeugen, eine gewisse Zeit mit der Entwicklung zu warten. Allerdings befürchte ich, dass das nicht gelingen wird. Nicht nur in der digitalen Welt ist es so, dass passieren wird, was passieren kann.

    Allerdings haben wir der (mächtigen) KI auch viel entgegen zu setzen.
    Wir brauchen nur in sehr wenigen Dimensionen mit der KI in einen Wettbewerb treten. Nämlich ausschließlich in den Feldern des linearen und deduktiven Denkens und Schlussfolgerns. Nur da, wo wir glauben, aus der Vergangenheit belastbar evidente Schlussfolgerungen für unser Verhalten in der Gegenwart und unsere Entscheidungen für die Zukunft ableiten zu können, wird uns die KI überlegen sein (und uns auch stärken können).

    Wir Menschen sind empathisch, können zugewandt aus dem Herzen agieren. Wir sind spielerisch, kreativ und haben ein Vorstellungsvermögen von einer besseren Welt. Wir können nicht nur deduktiv sondern assoziativ denken. Wir können kooperativ agieren und so etwas wie Vertrauen haben. Wir können uns riechen und in Resonanz gehen oder eben auch nicht. Wir haben den völlig unterschätzten Sinn der Ästhetik bzw. der Schönheit zur Verfügung, der uns -wenn wir ihn zulassen- ganz interessante neue Orientierungen gibt.

    Wir haben jetzt durch die beeindruckenden Dienste wie chatGPT et al. die Chance, uns auf unsere eigentliche Menschlichkeit zu besinnen. Schaffen wir es, ein entsprechendes Selbstbewußtsein zu entwickeln, werden wir sehr souverän die KI überall da nutzen können, wo sie uns stärkt und überall da ignorieren können, wo sie uns schwächt.

    Das ist allerdings ein dickes Brett. Nicht nur das gesamte Bildungssystem muss dafür neu kalibriert werden, sondern auch unsere sonstigen Orientierungssysteme und Entscheidungshilfen, wie die Rechts und Wirtschaftssysteme.

    Also ran an den Speck. Es wird sich lohnen :-)

  2. Meike Leopold
    Meike Leopold · vor einem Jahr

    Danke fürs Teilen. Ich denke nicht, dass das etwas bewirken wird. Und ich frage mich, was ausgerechnet Elon Musk da zur Teilnahme bewogen hat? Auch die Einlassung des Deutschen Ethikrats kam spät und wirkte kraftlos. Leider.

    1. Charlotte Möller
      Charlotte Möller · vor einem Jahr

      Tatsächlich hat Musk schon in diversen Podcasts darüber gesprochen, dass er bereits seit Jahren mit US-Officials über das Risiko von AIs spricht und deutlich machen möchte, dass wir der Entwicklungsgeschwindigkeit nicht gewachsen sind. Die Position ist für ihn also nicht unbedingt neu. Trotzdem ist dieser kleine Ausschnitt aus den Reuters Nachrichten (ab Min 7) sehr interessant, wenn es um die Ironie seiner Forderung geht, wenn man bedenkt, dass alle seine Unternehmen von der AI-Technik abhängig sind: https://www.reuters.co...

  3. Lutz Müller
    Lutz Müller · vor einem Jahr

    Die FAZ berichtet jetzt über den offenen Brief (Paywall): https://www.faz.net/ak...

    Das Magazin der SZ schenkt uns mit Herbert Grönemeyer ein Fundstück dazu, wie sich die fehlende emotionale und sinnliche Dimension der KI in der Un-Kunst zeigt: www.piqd.de/seite-eins... , Das Interview erschien zeitgleich mit dem offenen Brief.

Bleib immer informiert! Hier gibt's den Kanal Technologie und Gesellschaft als Newsletter.

Abonnieren

Deine Hörempfehlungen
direkt aufs Handy!

Einfach die Hörempfehlungen unserer KuratorInnen als Feed in deinem Podcatcher abonnieren. Fertig ist das Ohrenglück!

Öffne deinen Podcast Feed in AntennaPod:

Wenn alles geklappt hat,
kannst du das Fenster schließen.

Öffne deinen Podcast Feed in Apple Podcasts:

Wenn alles geklappt hat,
kannst du das Fenster schließen.

Öffne deinen Podcast Feed in Downcast:

Wenn alles geklappt hat,
kannst du das Fenster schließen.

Öffne deinen Podcast Feed in Instacast:

Wenn alles geklappt hat,
kannst du das Fenster schließen.

Öffne deinen Podcast Feed in Apple Podcasts:

Wenn alles geklappt hat,
kannst du das Fenster schließen.

Öffne deinen Podcast Feed in Podgrasp:

Wenn alles geklappt hat,
kannst du das Fenster schließen.

Bitte kopiere die URL und füge sie in deine
Podcast- oder RSS-APP ein.

Wenn du fertig bist,
kannst du das Fenster schließen.

Link wurde in die Zwischenablage kopiert.

Öffne deinen Podcast Feed in gpodder.net:

Wenn alles geklappt hat,
kannst du das Fenster schließen.

Öffne deinen Podcast Feed in Pocket Casts:

Wenn alles geklappt hat,
kannst du das Fenster schließen.