Kanäle
Jetzt personalisiertes
Audiomagazin abonnieren
Log-in registrieren
piqd verwendet Cookies und andere Analysewerkzeuge um den Dienst bereitzustellen und um dein Website-Erlebnis zu verbessern.

handverlesenswert

Kluge Köpfe filtern für dich relevante Beiträge aus dem Netz.
Entdecke handverlesene Artikel, Videos und Audios zu deinen Themen.

Du befindest dich im Kanal:

Technologie und Gesellschaft

Wenn folgenreiche Entscheidungen von Algorithmen als Geschäftsgeheimnis geschützt werden

Jörn Klare
Neugier und Misstrauen
Zum piqer-Profil
Jörn KlareSamstag, 23.06.2018

In der FAZ erläutern die Professoren Gerd Gigerenzer, Gert G. Wagner und Klaus-Robert Müller, wie algorithmen-basierte Entscheidungen überprüft werden könnten.

Dies vor dem Hintergrund, dass z. B. die Schufa folgenreiche Entscheidungen zur individuellen Kreditwürdigkeit allein Computerprogrammen überlässt. Wie die Urteile zustande kommen, lässt sich nicht nachvollziehen. Eine juristische Klage auf Offenlegung des Schufa-Algorithmus wurde mit dem Hinweis auf das zu schützende Geschäftsgeheimnis abgewiesen.

Derzeit werden immer mehr kommerzielle Algorithmen eingesetzt, um uns in fast allen Bereichen des Lebens einen Score zuzuteilen.

Andere Programme gehen noch weiter. Compas erstellt in den USA algorithmen-basierte Vorhersagen zur Rückfallgefahr von Straftätern, die bei der Urteilsfindung genutzt werden, wobei weder der Angeklagte, sein Anwalt noch der Richter selbst durchschauen, wie es zu den Compas-Empfehlungen kommt. Auch diese Algorithmen sind durch das Geschäftsgeheimnis geschützt.

Abgesehen davon können auch Experten die Codes selbstlernender Programme in aller Regel kaum noch kontrollieren.

Im Koalitionsvertrag der Bundesregierung steht jedoch, dass „Algorithmen- und KI-basierte Entscheidungen, Dienstleistungen und Produkte“ überprüfbar gemacht werden sollen.

Um dabei das Geschäftsgeheimnis wahren zu können, schlagen die drei Professoren nun „Transparenz-Schnittstellen“ vor, an denen zumindest die Merkmale, die zur Entscheidungsfindung herangezogen werden, offen liegen, um sie „durchzuspielen“. Sollte dies schon zu weit gehen, könnte unter strengen Auflagen zur Verschwiegenheit eine noch einfachere Schnittstelle von Betroffenen zur Überprüfung genutzt werden, die dann – wieder zum Schutz des Geschäftsgeheimnisses – sehr aufwendige gerichtliche „In-camera-Verfahren“ anstrengen könnten.

So interessant das ist, bleibt die Frage doch, ob wir als Gesellschaft solche Entscheidungen überhaupt undurchschaubaren kommerziellen Programmen überlassen sollten.

Wenn folgenreiche Entscheidungen von Algorithmen als Geschäftsgeheimnis geschützt werden
KOSTENPFLICHTIGKOSTENPFLICHTIG

Möchtest du kommentieren? Dann werde jetzt kostenlos Mitglied!

Bleib immer informiert! Hier gibt's den Kanal Technologie und Gesellschaft als Newsletter.

Abonnieren

Deine Hörempfehlungen
direkt aufs Handy!

Einfach die Hörempfehlungen unserer KuratorInnen als Feed in deinem Podcatcher abonnieren. Fertig ist das Ohrenglück!

Öffne deinen Podcast Feed in AntennaPod:

Wenn alles geklappt hat,
kannst du das Fenster schließen.

Öffne deinen Podcast Feed in Apple Podcasts:

Wenn alles geklappt hat,
kannst du das Fenster schließen.

Öffne deinen Podcast Feed in Downcast:

Wenn alles geklappt hat,
kannst du das Fenster schließen.

Öffne deinen Podcast Feed in Instacast:

Wenn alles geklappt hat,
kannst du das Fenster schließen.

Öffne deinen Podcast Feed in Apple Podcasts:

Wenn alles geklappt hat,
kannst du das Fenster schließen.

Öffne deinen Podcast Feed in Podgrasp:

Wenn alles geklappt hat,
kannst du das Fenster schließen.

Bitte kopiere die URL und füge sie in deine
Podcast- oder RSS-APP ein.

Wenn du fertig bist,
kannst du das Fenster schließen.

Link wurde in die Zwischenablage kopiert.

Öffne deinen Podcast Feed in gpodder.net:

Wenn alles geklappt hat,
kannst du das Fenster schließen.

Öffne deinen Podcast Feed in Pocket Casts:

Wenn alles geklappt hat,
kannst du das Fenster schließen.