sharing is caring
ist wirklich so!
Vielen Dank fürs Teilen!
handverlesenswert
Kluge Köpfe filtern für dich relevante Beiträge aus dem Netz.
Entdecke handverlesene Artikel, Videos und Audios zu deinen Themen.
Du befindest dich im Kanal:
Das Problem mit den KI-Fake-Detektoren
Redakteur
picker für: Volk und Wirtschaft Medien und Gesellschaft Technologie und Gesellschaft Fundstücke
Leitet das Digital-Team im Wirtschaftsressort der Süddeutschen Zeitung, was nicht heißt, dass er nur Nerd-Kram piqt. Studierte in Erlangen und Portland Politikwissenschaft und Amerikanistik, schrieb in Nürnberg, Berlin, New York und München. Interessiert an allem Politischen. Am Absurden sowieso. Süchtig nach Longreads.
In der Debatte um mit KI gefälschte Bilder gibt es diesen überraschenden Twist: Die KI-Detektoren, die Fake-Bilder erkennen sollen, werden ihrerseits Mittel der Desinformation. Die (übrigens sehr interessante) neue US-Tech-Nachrichtenseite 404 macht auf den Fall aufmerksam, der nach den Massakern der Hamas in Israel die Runde machte: Das verstörende angebliche Bild eines von der Hamas verbrannten Babys wurde als Fake abgetan. Das glaubten auch viele Leute - schließlich hatte die Detektor-Seite "AI or Not" das Bild als KI-Produkt eingestuft.
Das Problem ist: Die Detektoren funktionieren nicht wirklich gut.
The internet is filled with these kinds of tools, and we have no idea how they work exactly, or if they’re accurate. It’s also not clear what we’re supposed to take away from an automated system that spits out a figure that suggests an image is basically about as likely to be AI as it is not. When a black-box system that is at best 90 percent accurate suggests an image is 52 percent likely to be artificial, or 52 percent likely to be real, anyone can use that tool to make any argument they want.
Fachleute finden keine Spuren, dass das Bild manipuliert wurde. Das Gerücht, ursprünglich von einem einzigen großen X-Account gestreut, verbreitete sich in der Propaganda-getränkten Social-Media-Atmosphäre im Netz und damit in der Welt.
Der Gedanke ist wichtig für kommende Diskussionen über automatisierte Desinformation: Nicht nur ein Bild selbst kann manipuliert sein. Seine Diskreditierung durch einen Detektor kann ebenso manipulativ eingesetzt werden, um die Gegenseite als Lügner abzustempeln. Die Existenz von KI ist also vielleicht gar nicht das Problem. Sondern der Glaube daran, dass mit der Technologie sämtliche vorstellbare Manipulationen möglich sind.
Quelle: Emanuel Maiberg EN www.404media.co
Kommentare
0
Bleib immer informiert! Hier gibt's den Kanal Technologie und Gesellschaft als Newsletter.
AntennaPod
Podcast Addict
Downcast
Instacast
Apple Podcasts
PodGrasp
gPodder
Pocket Casts
