Die neue Generation der künstlichen Intelligenz, die auf lernfähigen Algorithmen beruht, revolutioniert längst wichtige Bereiche der Wissenschaft und der Medizin. Ende 2021 wählte das Fachjournal "Science" die Entschlüsselung von Eiweißstrukturen durch KI-Systeme zum wissenschaftlichen Durchbruch des Jahres 2021: Gleich zwei lernfähige Algorithmen schafften es, die dreidimensionale Struktur von Proteinen allein anhand ihrer Aminosäuresequenz vorherzusagen – eine Leistung, die lange als nahezu unmöglich galt.

Weitere Durchbrüche in den Lebenswissenschaften ließen nicht lange auf sich warten: KI kann auch 3D-RNA-Strukturen richtig vorhersagen, wie sich wenig später zeigte. Und erst letzte Woche berichtete eine neue Studie im Fachblatt "Nature" von Fortschritten, die KI-gestützte Systeme bei der Vorhersage von Genexpressionen machen.

Einsatz in der Pharmakologie

Auch in der pharmakologischen Forschung sind mittlerweile lernfähige Algorithmen im Einsatz, um neue Wirkstoffe gegen verschiedenste Krankheiten zu suchen. Durch die KI-Unterstützung sollte sich dieser höchst aufwendige Prozess, der einer Suche nach der Nadel im Heuhaufen gleicht, deutlich verkürzen und verbessern lassen.

Das gilt auch für die Suche nach Medikamenten gegen Covid-19. Gisbert Schneider, Professor für computergestützte Wirkstoffsuche an der ETH Zürich, schätzte kürzlich, dass es über tausend Projekte weltweit gibt, die mit diesem Ansatz nach Corona-Arzneien suchen – bisher allerdings nicht allzu erfolgreich. Der Grund dafür sei, dass schlicht die Datenbasis fehle, um die KI zu trainieren, meint Schneider, der am "Science"-Durchbruch des Jahres 2021 maßgeblich beteiligt war.

"Jedes Ding hat zwei Seiten"

Wie schon Ovid ganz ohne KI wusste, hat jedes Ding zwei Seiten. Das trifft auch auf lernfähige Algorithmen zu. Viel ist bisher über mögliche Risiken geschrieben worden, die etwa KI-gestützten Waffensystemen innewohnen oder autonomen Autos, die falsche Entscheidungen treffen oder deren Software gehackt werden kann. Wie ein neuer Artikel im Fachblatt "Nature Machine Intelligence" auf recht dramatische Weise zeigt, könnten auch pharmakologische KI-Systeme missbraucht werden.

Der Text, der am gleichen Tag erschien wie die Studie über den Fortschritt bei den Genexpressionen, geht auf ein Forscherteam der US-Firma Collaborations Pharmaceuticals zurück, die auf pharmazeutischen und toxikologischen Einsatz von KI-Systemen spezialisiert ist. Konkret angeregt wurde er allerdings von der Spiez-Convergence-Konferenz in der Schweiz, bei der alle zwei Jahre darüber diskutiert wird, welche Auswirkungen neue Technologien auf biologische und chemische Kriegsführung haben könnten.

KI wird auf Gifte trainiert

Für ihren Beitrag zur Konferenz testete das Forscherteam um Fabio Urbina, wie gut sich das pharmakologische KI-System Mega-Syn zur "Erfindung" toxischer Stoffe eignet. Um das quasi unendliche Universum der möglichen Verbindungen einzuschränken, wurde Mega-Syn in Richtung von Nervenkampfstoffen wie etwa Nowitschok ausgerichtet. Und es wurde ein entsprechend niedriger Schwellenwert für die letale Dosis (LD50) definiert, ab der die gefundenen Verbindungen für 50 Prozent der damit vergifteten Menschen innerhalb von 30 Tagen tödlich wären.

Das Ergebnis war einigermaßen erschreckend, wie das Team berichtet – und Fabio Urbina in einem Interview für "The Verge": Nach weniger als sechs Stunden hatte der Algorithmus rund 40.000 Moleküle gefunden, die den Schwellenwert unterschritten. Die KI "entdeckte" in den knapp sechs Stunden unter anderem die chemische Formel von VX, einem der giftigsten chemischen Kampfstoffe, die im zwanzigsten Jahrhundert entwickelt wurden.

Ein paar salzgroße Körner VX (etwa sechs bis zehn Milligramm, also Tausendstelgramm) reichen aus, um einen Menschen zu töten. Diese extrem toxische organische Phosphorverbindung war etwa im Einsatz, um Kim Jong-nam, Halbbruder des nordkoreanischen Diktators Kim Jong-un, 2017 auf dem Flughafen von Kuala Lumpur zu ermorden. 20 Minuten nach dem Kontakt mit VX war das Opfer tot.

40.000 hochtoxische Moleküle

Doch VX war nicht der einzige chemische Kampfstoff, den das System in Windeseile ermittelte. Viele davon konnten in Abgleichung mit öffentlichen Chemiedatenbanken identifiziert werden. Mega-Syn entwarf aber auch etliche neue Moleküle, die ebenso plausibel erschienen und auf der Grundlage der vorhergesagten LD50-Werte weitaus toxischer sein dürften als die öffentlich bekannten chemischen Kampfstoffe.

US-Experte Derek Lowe vermutete am Dienstag in seinem Kommentar-Blog für "Science News", dass da vermutlich etliche Kampfstoffe dabei gewesen sein könnten, die der Öffentlichkeit bisher noch unbekannt sind.

Dual Use auch bei der Pharma-KI

Das Forscherteam, das den Versuch startete, war von den Ergebnissen jedenfalls selbst einigermaßen irritiert. Der Beweis, dass auch pharmakologisch eingesetzte KI militärisch missbraucht werden könnte, ist (allzu) eindrucksvoll gelungen. In der technowissenschaftlichen Fachsprache hat sich dafür der Begriff Dual Use eingebürgert: Damit werden neue Technologien bezeichnet, die sowohl für zivile wie auch für militärische Zwecke genutzt werden können. Maschinelles Lernen zur "(Er-)Findung" von Wirkstoffen gehört da augenscheinlich auch dazu.

Das Autorenteam schlägt als Konsequenz unter anderem Ethikschulungen für KI-Fachleute, internationale Vereinbarungen und spezielle Leitlinien für diesen KI-Bereich vor. Die Geschichte zeigt allerdings, dass sich Diktatoren und/oder Terroristen, die hochtoxische Kampfstoffe einsetzen wollen, nicht um solche Beschränkungen scheren. So dürfte auch Iraks Diktator Saddam Hussein VX in seinem Chemiewaffenarsenal gehabt haben. Durch den Einsatz seiner Chemiewaffen wurden rund 10.000 Menschen getötet.

Schwierige Risikoabschätzungen

Doch wie groß ist das zusätzliche Risiko, dass durch den "Zauberlehrling" KI bei falscher pharmakologischer "Erziehung" besonders tödliche Gifte in die Welt geraten und eingesetzt werden könnten? Das ist unklar. Denn zum einen gibt es jetzt schon genug mehr oder weniger gut zugängliche Bauanleitungen für extrem starke Nervengifte. So gelang es der japanischen Aum-Sekte, 100 bis 200 Gramm des mit VX verwandten Giftstoffs Sarin zu synthetisieren, der ähnlich tödlich ist. Die Gruppe verübte damit in den Jahren 1994 und 1995 mindestens drei Anschläge.

Zum anderen ist – wie man aus bisherigen Erfahrungen weiß – eine große Mehrheit der von KI-Systemen vorgeschlagenen Wirkstoffe chemisch instabil oder sehr komplex in der Herstellung. Es braucht also auch ein "Kochrezept", wie sich die Substanz im Labor am besten synthetisieren lässt. Und auch bei diesem Schritt wird mittlerweile auf künstliche Intelligenz zurückgegriffen. (Klaus Taschwer, 18.3.2022)