Das Forscherteam eines amerikanischen Pharmaunternehmens hat mithilfe einer künstlichen Intelligenz 40.000 potenziell tödliche Nervengifte identifiziert. Die Forscher des Unternehmens arbeiten eigentlich an der Entdeckung neuer Molekül-Kombinationen und hatten zuvor einen AI-unterstützten Molekül-Generator entwickelt. In diesem haben sie nun einfach den Mechanismus zur Vermeidung von Giftigkeit umgekehrt: Statt toxische Wirkungen von Verbindungen zu verhindern, wurde ihre Entdeckung vom Algorithmus belohnt. Zum Dank entwickelte die Software prompt Tausende neuer Chemiewaffen. Zwar ist immer noch Expertise zur tatsächlichen Entwicklung dieser Gifte notwendig, doch "mit Programmierkenntnissen und Algorithmen des maschinellen Lernens sinke die Schwelle zur Entwicklung chemischer Kampfstoffe dramatisch" und ein "nichtmenschlicher Generator einer tödlichen Chemiewaffe ist [heute bereits] voll realisierbar". The Verge machte ein Interview mit den Wissenschaftlern.

Die breite Debatte um AI-Ethics umfasst Diskurse um Verzerrungen aufgrund unausgewogener Datensätze, die Manipulation der Öffentlichkeit durch Soc-Med-Algorithmen, oder Auswirkungen auf die Arbeitswelt. Ich finde aber nur wenige Diskussionen über die Ethik von dem, was ich als "Brute Force AI" bezeichnen würde, also Algorithmen, die alle möglichen Varianten eines gegebenen Problems erzeugen. Trainiere ich etwa einen Computer-Vision-Algorithmus auf 1 Million Bilder von Cheeseburgern, kann mir diese Software jede Variante der "Idee Cheeseburger" ausrechnen und zur Verfügung stellen. Das ist nun eben nicht nur mit Cheeseburgern möglich, sondern auch mit Proteinen, wie Googles Deepmind vor einem Jahr mit seinem spektakulären Alphafold-Algorithmus vorgeführt hat, sondern auch mit Chemiewaffen.

Die Debatte um demokratisierte Waffenproduktion begann vor zehn Jahren mit dem ersten Maschinengewehr aus einem 3D-Drucker, bereits damals fantasierten Tech-Journalisten von downloadbaren Waffen, die Gott sei Dank nie ein Massenmarkt wurden. 

Es wird Zeit, dass wir über die Auswirkungen einer Technologie nachdenken, die uns alle Lösungsmöglichkeiten aller Probleme bereitstellt und die nicht nur alle möglichen Cheeseburger und Beatles-Songs ausrechnen kann, sondern auch alle tödlichen chemischen Kampfstoffe.