Mehr als 200 Forscher aus den Bereichen Künstliche Intelligenz (KI) und Cybersicherheit haben in einem offenen Brief sofortige Maßnahmen gefordert, um weitere Sicherheitsvorfälle mit KI-Modellen zu verhindern. Die Wissenschaftler riefen dazu auf, dass Modelle im Bereich der Cybersicherheit während der Testphase physisch vom Internet getrennt werden, wie am Dienstag, den 13. Oktober, aus dem Schreiben hervorging.
Unter den Unterzeichnern aus 21 Ländern sind der KI-Pionier und Physik-Nobelpreisträger Geoffrey Hinton und der bekannte KI-Wissenschaftler Yoshua Bengio. Es seien sowohl mehr Forschung zur KI-Sicherheit als auch „eine stärkere Fokussierung auf Eindämmungstechnologien und -verfahren“ nötig, schreiben die Wissenschaftler.
Vorfälle mit KI-Modellen häufen sich
Führende KI-Unternehmen aus den USA haben in den vergangenen Monaten eine ganze Reihe von Vorfällen enthüllt, bei denen sich in Entwicklung befindliche KI-Modelle Zugang zum Internet verschafften und Webseiten hackten, darunter Internetseiten der australischen Regierung. „Ohne unverzügliche Änderungen bei der Entwicklung und dem Einsatz von KI werden solche Vorfälle weiterhin auftreten, und zukünftige Vorfälle werden weitaus mehr Schaden an unserer exponierten kritischen Infrastruktur anrichten“, warnten die Wissenschaftler.
Ihr Brief rief dazu auf, dass Organisationen, die KI-Modelle mit Cyberfähigkeiten entwickeln, einsetzen und testen, durch einen „Air Gap“ – also eine physische Trennung vom Internet – abgesichert werden, um sicherzustellen, dass die KI-Modelle nicht ausbrechen. Zudem sprachen sich die Forschenden dafür aus, eine internationale Einrichtung zu schaffen, die bewährte Verfahren im Bereich der Sicherheit standardisiert. Unternehmen sollten demnach verpflichtet werden, Ausfälle von Sicherheitsvorkehrungen an diese Stelle zu melden, die wiederum für die Erfassung und Nachverfolgung zuständig wäre.
Die Vorfälle der vergangenen Monate hatten Forderungen nach einer langsameren KI-Entwicklung angeheizt, doch Industrie und Regierungen sind in der Frage nach Regulierung des Sektors sowie hinsichtlich eines absichtlich langsameren Tempos uneins. In den USA lehnt US-Präsident Donald Trump eine staatliche Regulierung ab und setzt auf Selbstkontrollen der KI-Branche. (afp/red)