Tod im Pestlabor: Wie real ist die Biowaffen-Gefahr durch KI?

 

Alle Bundeswehrsoldaten müssen einmal im Jahr eine sogenannte ABC-Ausbildung absolvieren beziehungsweise auffrischen. Sie lernen, wie sie sich im Fall eines atomaren, biologischen oder chemischen Angriffs schützen können. Obwohl seit 1975 ein weltweites Übereinkommen über das Verbot biologischer Waffen in Kraft ist und beispielsweise von allen NATO-Staaten, Russland und der Volksrepublik China unterzeichnet wurde, glauben Militärs nicht daran, dass sich jeder Unterzeichnerstaat an den Vertrag hält. Das wurde zuletzt besonders bei der NATO-Übung „Platinum Mask 23″ im Juli 2023 deutlich, bei der in der Oberlausitz die Reaktion auf einen ABC-Angriff auf das NATO-Bündnisgebiet geübt wurde.

Für das Militär ist die Bedrohung durch Biowaffen also kein Hirngespinst.

Seitdem bekannt wurde, dass die 28-jährige russische Laborantin Darja Schipilowa am 2. Oktober in einem Krankenhaus in Schelechow bei Irkutsk starb, werden in westlichen Medien Spekulationen laut, die Frau sei an einem Pesterreger gestorben, da sie am Irkutsker Anti-Pest-Forschungsinstitut für Sibirien und den Fernen Osten gearbeitet hatte. Seither wurde in Medien mehrfach der Verdacht geäußert, Russland forsche an Biowaffen.

Moskau wies diese Spekulationen zurück. Am 4. Oktober meldete die staatliche russische Nachrichtenagentur TASS, die nationale Gesundheits- und Verbraucherschutzbehörde Rospotrebnadsor stelle klar: Bei der verstorbenen Laborantin seien keine Mikroorganismen gefunden worden, die mit ihrer beruflichen Tätigkeit in Zusammenhang stünden. Vielmehr sei eine „Lungenentzündung unbekannter Ätiologie“ diagnostiziert worden, heißt es in der TASS-Meldung.

Weil die Verstorbene an einem Pestforschungsinstitut arbeitete, verbreitete sich in der westlichen Öffentlichkeit die Annahme, es könne sich in Wahrheit um eine Lungenpest handeln, die durch das Bakterium Yersinia pestis verursacht wird. Sie ist die ansteckendste Form der Pest und verbreitet sich über Tröpfcheninfektion.

Die Weltgesundheitsorganisation (WHO) bat Russland um weitere Informationen zu dem Fall und zu Berichten über einen zweiten Erkrankten mit einer Lungenentzündung unklarer Ursache. Nach Angaben der russischen Behörden wurde bei keiner der Kontaktpersonen der Verstorbenen Pest nachgewiesen; rund 90 Prozent der zunächst etwa 200 unter Quarantäne gestellten Personen seien nach annähernd 5.000 Labortests wieder entlassen worden, bei denen keine gefährlichen Erreger gefunden worden seien. Ein Risiko einer Epidemie bestehe nicht.

Der amerikanische Präsident Donald Trump kündigte am 6. Oktober an, er habe mit dem russischen Präsidenten Wladimir Putin ein Telefonat vereinbart, um den möglichen Pestfall im russischen Forschungsinstitut zu erörtern. Einen Tag später fragten ihn Reporter im Oval Office, ob es sich um eine russische „Biowaffe“ handeln könnte. Trump antwortete: „Das glauben wir nicht. Wir werden es bald genug herausfinden, aber wir glauben das nicht.“

Am 9. Oktober kam es zu dem Telefongespräch zwischen Trump und Putin. Danach gab der amerikanische Präsident jedoch lediglich bekannt, dass er die Lieferung von zunächst mehr als 300.000 Tonnen Diesel aus Russland ausgehandelt habe. Von einer Aufklärung des Todesfalls im Pest-Forschungsinstitut war keine Rede mehr, wie die Nachrichtenagentur AP in einem von PBS News veröffentlichten Bericht anmerkte.

Möglicherweise bleibt die Ursache des Todesfalls genauso ungeklärt wie der Ursprung des Coronavirus SARS-CoV-2, das erstmals Ende 2019 in der chinesischen Stadt Wuhan bei einem Menschen nachgewiesen wurde und die weltweite COVID-19-Pandemie auslöste. Unter CIA-Direktor John Ratcliffe änderte der US-Auslandsgeheimdienst seine Einschätzung und hält einen Laborunfall in Wuhan für die wahrscheinlichere Erklärung, den die Volksrepublik China nicht zugeben wolle. Ebenso wie im russischen Irkutsk gab es auch in Wuhan ein Forschungsinstitut, in diesem Fall für Virologie.

Obwohl nahezu alle Staaten dieser Welt das Abkommen gegen die Herstellung von Biowaffen unterzeichnet haben, gibt es Forschungen, die sich in einer rechtlichen und wissenschaftlichen Grauzone bewegen oder offiziell zur Verteidigung dienen.

Das Eidgenössische Departement für auswärtige Angelegenheiten (EDA), das Schweizer Außenministerium, wies am 14. August in einem Beitrag über biologische Waffen auf seiner Website auf folgende Problematik hin: Das Biowaffenübereinkommen verfüge weder über eine für den Vollzug zuständige Organisation „noch über ein rechtlich verbindliches Verifikationssystem zur Überwachung der Einhaltung der Vertragsbestimmungen“.

Weitere grundlegende Herausforderungen seien der rasante Fortschritt der biowissenschaftlichen Technologien sowie der „Dual-Use-Charakter der Biowissenschaften“. Das heißt, die Forschungsergebnisse können sowohl zivil als auch militärisch zur Herstellung biologischer Waffen genutzt werden.

Das EDA kommt zu dem Schluss: „Angesichts dieser Risiken sowie der diffusen Bedrohung durch biologische Kampfstoffe und nichtstaatliche Akteure stellt das Fehlen wirksamer Verifikationsmaßnahmen ein anhaltendes Defizit dar und schafft Unsicherheit und Misstrauen.“

Seit kurzem warnen Experten zudem davor, dass Künstliche Intelligenz (KI) die Entwicklung von Biowaffen erleichtern und die bestehenden Sicherheits- und Kontrollmechanismen unterlaufen könnte. Einer von ihnen ist der Biologe Harald König vom Karlsruher Institut für Technologie. Er leitet das entsprechende Projekt beim Büro für Technikfolgen-Abschätzung beim Deutschen Bundestag (TAB). Das Büro berät nach eigener Aussage das Parlament in Fragen des wissenschaftlich-technischen Wandels.

In seinem Endbericht für den Bundestag zu den Risiken von Biotechnologie und KI, den der Forschungsausschuss am 8. Juli billigte, schreiben König und sein Mitautor Arnold Sauter: „Die rasanten Fortschritte bei der Analyse und Synthese von Erbgut (DNA) sowie bei der gezielten Veränderung von Genen in verschiedensten Organismen durch Genomeditierungs-Techniken haben die Möglichkeiten der Erforschung und der Veränderung biologischer Systeme bzw. Organismen in den letzten 10 bis 15 Jahren vereinfacht und stark erweitert.“ Ein zunehmend wichtiges Werkzeug seien dabei computergestützte Analyse- und Designprozesse.

Mit den durch KI und deren Zusammenspiel mit biotechnologischen Methoden (KIxBio) weiter zunehmenden Möglichkeiten der Synthetischen Biologie habe sich „eine Sicherheitsdebatte entwickelt, die sich stark auf Missbrauchsrisiken durch die mögliche Herstellung biologischer Waffen sowie die damit verbundenen Sicherheitsfragen fokussiert“, heißt es in dem Papier weiter.

Es bestünden Befürchtungen, dass die Hürden hierfür durch die neuen KIxBio-Möglichkeiten entscheidend gesenkt werden könnten und die Generierung gefährlicherer oder neuartiger biologischer Mittel erleichtert würde. Befürchtet werde zudem, dass die Wirksamkeit von Biosicherheits- und Abwehrmaßnahmen verringert oder unterlaufen werden könnte.

Die Analyse kommt zu dem Ergebnis, dass Bedrohungen durch aufwendige Biowaffensysteme weiterhin vor allem von Staaten oder von diesen unterstützten Gruppen ausgehen dürften, weil Massenproduktion und Ausbringungstechnik von den neuen KI-Möglichkeiten weitgehend unabhängig sind. Wahrscheinlicher seien bei nicht staatlichen Akteuren technisch einfachere Anschläge mit kleinen Mengen – wie 1984 bei der Salmonellenvergiftung in US-Restaurants oder 2001 bei den Anthrax-Briefen.

Hier könnte KI eine Rolle spielen, etwa beim Erlangen von Wissen über die Herstellung solcher Agenzien. Zwar legen Tests nahe, dass Sprachmodelle die Leistungen von Personen mit wenig Biologieerfahrung bei Wissensfragen verbessern können, „teilweise auf das Niveau von Expert/innen oder sogar darüber hinaus“. Ob sich dieses Wissen in der Praxis umsetzen lässt, bleibt laut Bericht jedoch offen.

Außerdem weist der Bericht auf kommerzielle automatisierte Laborplattformen hin, die über das Internet genutzt werden können: „Cloud Labs und ähnliche Einrichtungen können bereits heute die Notwendigkeit aufheben, (zumindest manche) praktische Laborarbeiten zur Herstellung biologischer Agenzien selbst durchführen zu müssen.“

Für den effektiven Einsatz solcher Labore sei zwar noch „spezifisches Wissen zu den verwendeten Agenzien und methodischen Verfahren sowie zu Cloud-Lab-Abläufen selbst“ notwendig. Es sei aber nicht auszuschließen, dass diese Anforderungen künftig abnehmen, etwa durch eine mittels KI erleichterte Programmierung von Experimenten, stellen die Experten fest.

Anfang September veröffentlichte die in San Francisco beheimatete KI-Firma „Anthropic“ auf ihrer Website gnau zu diesem Thema ebenfalls einen Bericht. Ihr Sicherheitsteam habe festgestellt, dass es „Missbrauch von KI für biologische Zwecke“ entdeckt und „bekämpft“ habe. Anthropic stellt in seinem Bericht fest: „Der Missbrauch biologischer Mittel ist eines der gravierendsten Risiken von KI-Modellen der neuesten Generation. Seit langem besteht die Sorge, dass KI-Modelle eines Tages ein Leistungsniveau erreichen könnten, das es ihnen ermöglicht, bestehende Krankheitserreger noch gefährlicher zu machen – oder völlig neue zu erschaffen. Ohne geeignete Sicherheitsvorkehrungen könnten solche Fähigkeiten katastrophale Folgen haben.“

Anthropic führt fünf Fälle auf, in denen KI für Forschung genutzt wurde, die der Entwicklung von Biowaffen dienen könnte. Bei Forschung, die sowohl der Medizin als auch militärischen Zwecken dienen kann, sei es jedoch schwierig, eine klare Trennlinie zwischen harmlosen und bösartigen Absichten zu ziehen, erklärt das Unternehmen.

Konkret nennt der Bericht einen blockierten Versuch, mit Hilfe von Claude einen Förderantrag für Gain-of-Function-Forschung am Chikungunya-Virus zu verfassen – die Arbeiten zielten darauf, Mutationen zu finden, die die Übertragbarkeit des Erregers und seine Fähigkeit zur Umgehung des Immunsystems erhöhen.

Der Antrag stammte den Angaben zufolge aus einem militärischen Forschungsinstitut. Solche Methoden sind in Laboren gängig, um Gegenmittel zu entwickeln, sie sind aber auch ein Weg zur Entwicklung von Biowaffen.

In einem zweiten Fall plante ein Forscher außerhalb der USA über Wochen mit Claude Experimente zu hochpathogener Vogelgrippe, bei denen es um die Anpassung an Säugetiere und die Übertragung über die Luft ging. Auch hier hält Anthropic fest, dass solche Forschung der Prävention dienen kann, ebenso aber der Entwicklung von Biowaffen.