Dass KI irgendwie die Überwachung von Menschen revolutionieren wird, ahnen viele von uns. In so deutlichen Worten wie denen von Cybersecurity-Legende Bruce Schneier habe ich es aber noch nicht gelesen. Er erklärt auf seinem Blog in der für ihn charakteristischen klaren Sprache, an welchem historischen Moment wir uns befinden. Zur Massenspionage – also der Überwachung der gesamten Gesellschaft – kommt nun die Massen-Spionage hinzu: von KI-getrieben, kann jede Person einzeln ausgespäht werden – und zwar automatisiert. Denn nun muss den Ausspionierten kein Mensch mehr zuhören und ihre Unterhaltungen, ihre Datenpunkte verstehen. Das übernimmt nun eine KI:

Summarization is something a modern generative AI system does well. Give it an hourlong meeting, and it will return a one-page summary of what was said. Ask it to search through millions of conversations and organize them by topic, and it’ll do that. Want to know who is talking about what? It’ll tell you.

Bedeutet: Massenüberwachung, das wissen wir seit den Snowden-Enthüllungen über die NSA &Co., ist ein Netz, in dem wir alle gefangen sind. KI-getriebene Massen-Spionage ermöglicht nun zusätzlich, Einzelpersonen gezielt automatisiert zu durchleuchten – in Sekunden.

Schneier beschreibt, wie das konkret funktionieren könnte:

All the data will be saved. It will all be searchable, and understandable, in bulk. Tell me who has talked about a particular topic in the past month, and how discussions about that topic have evolved. Person A did something; check if someone told them to do it. Find everyone who is plotting a crime, or spreading a rumor, or planning to attend a political protest.

Liegt ausreichend abgefangener Text aus dem Leben eines Menschen vor (und wir alle produzieren auf unseren Handys einen Haufen davon), kann KI Freundschaften erkennen und auch, wenn sie in die Brüche gehen. Wer mit wem wie redet, wer wem Befehle gibt und so weiter.

So konkret beschrieben, ist es gruselig und wirft völlig neue Fragen auf, wie Menschen – ob unschuldig oder nicht – angesichts dieses Problems kommunizieren sollten.

(Dank an Johannes Kuhn für den Hinweis)