Kanäle
Log-in registrieren
piqd verwendet Cookies und andere Analysewerkzeuge um den Dienst bereitzustellen und um dein Website-Erlebnis zu verbessern.

handverlesenswert

Kluge Köpfe filtern für dich relevante Beiträge aus dem Netz.
Entdecke handverlesene Artikel, Videos und Audios zu deinen Themen.

Du befindest dich im Kanal:

Technologie und Gesellschaft

Jörn Klare
Neugier und Misstrauen
Zum piqer-Profil
piqer: Jörn Klare
Donnerstag, 25.04.2019

"Künstliche Intelligenz ist Politik“ – über die Moral der Maschinen

In der SZ widmet sich Andrian Kreye der Forderung von Wissenschaftlern "führender Universitäten“ nach einer Verhaltensforschung für Maschinen. Denn nur so ließen sich Maschinen verstehen und programmieren, "dass sie den Menschen dienen und nicht schaden.“

Kreye besucht dafür Iyad Rahwan, KI-Forscher am Massachusetts Institute of Technolgy. Bekannt wurde Rahwan durch die Entwicklung der hochspannenden „Moral Machine“. Dabei geht es um den Versuch herauszufinden, wie Menschen aus verschiedenen Weltregionen und Naturkreisen selbstfahrende Autos programmieren würden, wenn sie bei Entscheidungen in sogenannten Dilemma-Situationen, auf die Kreye ausführlicher eingeht, Menschenleben bewerten müssen.

Das sind grundlegende Moralfragen, die jetzt geklärt werden müssen, weil sich Maschinen in Zukunft danach verhalten werden.

40 Millionen Antworten von rund vier Millionen Teilnehmern aus 233 Ländern und Territorien liegen bereits vor.

"In Ländern mit ausgeprägtem Rechtsbewusstsein wie Deutschland überfahren die Leute eher mal jemanden, der bei Rot über die Straße geht."

Abhängig etwa vom Quellcode, dem Auftrag und den Lerneffekten muss man davon ausgehen, dass KI-gesteuerte Maschinen eigene Verhaltensmuster entwickeln. Dabei sind diese KIs als Black Boxes zu verstehen, deren Algorithmen als Betriebsgeheimnisse gelten.

"Derzeit sind die Wissenschaftler, die das Verhalten von Maschinen untersuchen, dieselben Wissenschaftler, welche die KIs geschaffen haben. Diese konzentrieren sich aber vor allem auf die Funktionstüchtigkeit ihrer künstlichen Intelligenzen."

Dazu kommt, dass Veränderungen im Sinne eines eigenständigen Lernens, selbst von den verantwortlichen Programmierern in der Regel nicht mehr nachvollzogen werden können, weswegen die geforderte Verhaltensforschung unabdingbar erscheint

Da tun sich nicht nur in ethischen Einzelfragen Widersprüche auf. "Die nächste Herausforderung wird die Politik sein", sagt Iyad Rahwan. "Denn künstliche Intelligenz ist Politik."

Lesenswert.

"Künstliche Intelligenz ist Politik“ – über die Moral der Maschinen
8,6
5 Stimmen
relevant?

Möchtest du kommentieren? Dann werde jetzt Mitglied!

Bleib immer informiert! Hier gibt's den Kanal Technologie und Gesellschaft als Newsletter.