Kanäle
Jetzt personalisiertes
Audiomagazin abonnieren
Log-in registrieren
piqd verwendet Cookies und andere Analysewerkzeuge um den Dienst bereitzustellen und um dein Website-Erlebnis zu verbessern.

handverlesenswert

Kluge Köpfe filtern für dich relevante Beiträge aus dem Netz.
Entdecke handverlesene Artikel, Videos und Audios zu deinen Themen.

Du befindest dich im Kanal:

Technologie und Gesellschaft

Wie Europa den Einsatz von künstlicher Intelligenz regulieren will

RiffReporter eG
Zum piqer-Profil
RiffReporter eGFreitag, 30.04.2021

Die EU-Kommission will den Einsatz von künstlicher Intelligenz zur Überwachung, Auswahl von Personen und das Lernen aus Datenbanken reglementieren.

Rainer Kurlemann hat sich den ersten Entwurf einer Verordnung vom 21. April angesehen. Das 88 Seiten starke Dokument zeigt bereits, nach welchen Kriterien die EU künstliche Intelligenz (KI) künftig bewerten und begrenzen will.

Der Entwurf der EU versucht rote Linien zu ziehen, die von den KI-Anwendungen nicht überschritten werden dürfen. Aber schon heute ist klar, dass das in Detailfragen äußerst diffizil werden wird.

So verbietet er die Kontrolle des Sozialverhaltens, die beispielsweise in China getestet wird. Das Dokument untersagt generell Anwendungen, die Menschen zu ihrem Schaden manipulieren oder Wissen über Schwachstellen von Personen ausnutzen, um ihnen zu schaden. Das klingt plausibel, doch die Formulierung lässt zahlreiche Interpretationen zu. „Impliziert das, dass soziale Medien verboten werden?“, fragt Kristian Kersting von der TU Darmstadt. „Das klingt zwar zynisch, aber viele Leute sind der Meinung, das soziale Netzwerke die Meinung von Menschen negativ beeinflussen können“, erklärt der Leiter des Fachgebiets Maschinelles Lernen.

Ähnlich kompliziert ist die Frage nach der automatischen Gesichtserkennung, die in vielerlei Hinsicht leicht missbraucht werden könnte. 

Verboten werden soll auch die Verwendung von ‚Echtzeit‘-Systemen zur biometrischen Identifizierung in öffentlich zugänglichen Räumen. Doch das Verbot gilt nicht generell, sondern nur für staatliche Überwachung. Privatleute dürfen die automatische Gesichtserkennung einsetzen. Auch Staaten wird das Recht für Ausnahmen eingeräumt. Einzelne Regierungen können abweichende Regelungen erlassen, etwa für die gezielte Suche nach vermissten Kindern, nach Verbrechern, die schwere Straftaten begangen haben oder für die Verhinderung solcher Taten. Dabei sollen aber die Rechte und Freiheiten aller betroffenen Personen bedacht und die Einsätze angemessen zeitlich oder räumlich eingegrenzt werden. Christiane Wendehorst, ehemalige Co-Vorsitzende der Datenethikkommission der Bundesregierung, erwartet konkretere Vorgaben beispielsweise auch für den Einsatz von Software, die Emotionen erkennen kann. „Doch diesbezüglich hat man es bei einer Kennzeichnungspflicht bewenden lassen“, sagt sie.

Besondere Anforderungen sollen sogenannte „risikoreiche KI-Systeme“ erfüllen, die einen irreparablen Schaden anrichten können. Damit sind Anwendungen gemeint, die als Sicherheitskomponenten in kritischer Infrastruktur eingesetzt werden. 

Dazu gehören aber auch KI-Systeme, die prüfen, ob Personen zum Beispiel für Kredite, Arbeitsstellen, Ausbildungs- oder Studienplätze geeignet sind. Die Anbieter dieser Anwendungen sollen ein Risikomanagement entwerfen. Eine gute Idee, die aber schwierig umzusetzen sein könnte, urteilt Kersting. „Eine vollständige, explizite Beschreibung sämtlicher Auswirkungen von Aktionen auf alle in einer Welt geltenden Fakten ist schwer, wenn nicht unmöglich. Von dem Festlegen der Mindeststandards mal ganz abgesehen“, sagt er.
Wie Europa den Einsatz von künstlicher Intelligenz regulieren will

Möchtest du kommentieren? Dann werde jetzt Mitglied!

Bleib immer informiert! Hier gibt's den Kanal Technologie und Gesellschaft als Newsletter.

Abonnieren

Deine Hörempfehlungen
direkt aufs Handy!

Einfach die Hörempfehlungen unserer KuratorInnen als Feed in deinem Podcatcher abonnieren. Fertig ist das Ohrenglück!

Öffne deinen Podcast Feed in AntennaPod:

Wenn alles geklappt hat,
kannst du das Fenster schließen.

Öffne deinen Podcast Feed in Apple Podcasts:

Wenn alles geklappt hat,
kannst du das Fenster schließen.

Öffne deinen Podcast Feed in Downcast:

Wenn alles geklappt hat,
kannst du das Fenster schließen.

Öffne deinen Podcast Feed in Instacast:

Wenn alles geklappt hat,
kannst du das Fenster schließen.

Öffne deinen Podcast Feed in Apple Podcasts:

Wenn alles geklappt hat,
kannst du das Fenster schließen.

Öffne deinen Podcast Feed in Podgrasp:

Wenn alles geklappt hat,
kannst du das Fenster schließen.

Bitte kopiere die URL und füge sie in deine
Podcast- oder RSS-APP ein.

Wenn du fertig bist,
kannst du das Fenster schließen.

Link wurde in die Zwischenablage kopiert.

Öffne deinen Podcast Feed in gpodder.net:

Wenn alles geklappt hat,
kannst du das Fenster schließen.

Öffne deinen Podcast Feed in Pocket Casts:

Wenn alles geklappt hat,
kannst du das Fenster schließen.