Fehlende staatliche Regulierung, ein hochkonzentrierter Sektor, der die Macht über Künstliche Intelligenz in den Händen weniger Firmen konzentriert, und die Ohnmacht derjenigen, die am meisten von automatisierten Entscheidungssystemen betroffen sind: Der „AI Now Report 2018“ ist ein Rundumschlag in punkto KI und zeigt die Probleme der zunehmenden Automatisierung auf – ohne dabei stehen zu bleiben.

Mit 63 Seiten ist der Bericht kein kurzes Lesestück, allerdings liefern die zehn Empfehlungen am Anfang eine Übersicht über sinnvolle Forderungen, die KI transparenter, besser kontrolliert und sozialverträglicher machen.

Die Einrichtung einer zentralen Kontrollbehörde für AI oder allgemeine Standards würde etwa zu kurz greifen, so die Autoren. Vielmehr seien branchenspezifische Kontrollstellen notwendig, die die Algorithmen jeweils prüfen und im Blick behalten. Zudem sei eine stärkere interne Kontrolle von Tech-Firmen wichtig – jenseits von einer Mini-Dosis Ethik. Dafür müssten Strukturen geschaffen werden wie unabhängige Aufsichtsorgane, Software muss von unabhängigen Drittparteien geprüft werden. Damit Mitarbeiter von Tech-Firmen offen Kritik äußern können oder fragwürdige Projekte ablehnen können, brauchen sie bessere Rechte – und Whistleblowerschutz.

Staatliche Stellen wie Polizeieinheiten sollten schon beim Ankauf von Software darauf achten, dass sie das Recht haben, die genaue Funktionsweise von Algorithmen einzusehen. Oft wird der Code als Geschäftsgeheimnis geschützt, so dass eine externe Prüfung von Prozessen und diskriminierenden Nebeneffekten unmöglich ist.

Der AI Report schlägt zudem einen erweiterten Auditing-Prozess vor: 

The full stack supply chain also includes understanding the true environmental and labor costs of AI systems. This incorporates energy use, the use of labor in the developing world for content moderation and training data creation, and the reliance on clickworkers to develop and maintain AI systems.