Für Bundesdigitalminister Karsten Wildberger (CDU) wiegt das Risiko für Deutschland, beim Thema KI den Anschluss zu verpassen, schwerer als die Risiken der Technologie selbst. „Ich nehme die Risiken der KI ernst, bin mir aber sicher: Wenn wir nicht ehrgeizig genug sind, zu langsam vorgehen und keine Entscheidungen treffen, werden wir mit noch größeren Risiken konfrontiert sein, noch abhängiger werden und Wachstumschancen verpassen“, sagte Wildberger am Montag beim diesjährigen Digitalgipfel in Berlin. Er ist Gastgeber des Gipfels, der heute und morgen stattfindet.
Der Minister hob die Gefahren durch Missbrauch von KI hervor: Die im Oktober publik gewordene Sicherheitslücke in der Programmiersprache für Websites PHP habe dies eindrücklich gezeigt. Die Lücke war von Forschern mittels KI gefunden worden, KI ermöglichte dann allerdings auch Angreifern, sie im großen Stil auszunutzen.
Als weiteres großes Problem nannte Wildberger den potenziellen Kontrollverlust über KI-Agenten. In den vergangenen Monaten hatte es immer wieder Fälle gegeben, in denen neue KI-Modelle sich bei Tests verselbstständigt und etwa entgegen ausdrücklicher Anweisung Unternehmen und Organisationen gehackt hatten. Das Verhalten von KI müsse „innerhalb klarer Grenzen bleiben“, forderte der Digitalminister. „Wir brauchen zuverlässige Methoden, um sie zu überwachen, zu korrigieren und gegebenenfalls zu stoppen.“
Doch das größte Risiko sei es, nicht mit am Tisch zu sitzen. „Wir sind immer noch zu langsam“, sagte Wildberger. „Wir unterschätzen, was auf uns zukommt. Wir müssen handeln, solange wir noch die Macht haben, zu entscheiden.“ Deutschland und Europa bräuchten eigene erfolgreiche KI-Unternehmen und eigene Technologien. Als wichtigsten außereuropäischen Partner nannte der Digitalminister Kanada.
KI als Kriegswaffe? Europa drohen Exportkontrollen
Der Chef des größten europäischen KI-Unternehmens Mistral AI hat eindringlich vor einem drohenden Ausschluss von US-amerikanischen und chinesischen Spitzenmodellen gewarnt, da Künstliche Intelligenz zunehmend als Kriegswaffe eingestuft werde. „Das bedeutet, dass sie unter Exportkontrollen fallen“, sagte Arthur Mensch, Mitbegründer des französischen KI-Spezialisten, auf dem Digitalgipfel der Bundesregierung in Berlin. Dies habe zur Folge, dass die nächste Generation von KI-Modellen aus den USA oder China nicht mehr nach Europa wegen Exportbeschränkungen geliefert werden könne.
KI als Kriegswaffe
Hintergrund der Einstufung als Waffentechnologie ist das sogenannte „Dual-Use“-Potenzial modernster KI-Technik: Hochkomplexe Systeme können nicht nur in der zivilen Wirtschaft eingesetzt werden, sondern revolutionieren auch die militärische Lageerfassung, automatisieren Cyberangriffe und steuern autonome Waffensysteme.
Um diesen Vorsprung abzusichern, hat Washington bereits weitreichende Exportkontrollen verhängt, die unter anderem die Ausfuhr von Hochleistungs-KI-Chips sowie moderner Halbleiterfertigungstechnik nach China strikt beschränken oder untersagen.
Unternehmenschef Mensch, sagte, es sei ein gefährlicher Fehler, die Entwicklung großer Sprachmodelle (LLMs) allein den USA und China zu überlassen. Europa müsse in der Lage sein, eigene denkende und schlussfolgernde KI-Modelle („Reasoning“-Modelle) zu produzieren. Wer diese Technologie nicht selbst besitze, werde abhängig von ausländischen Anbietern, deren Macht stetig wachse. Daher sei es für Europa „absolut kritisch“, eine eigene Modellfabrik für logisches Schlussfolgern und Weltmodelle zu besitzen.
Vergleich mit Aufbau der zivilen Kernenergie
Mensch unterstrich, dass es sich bei KI nicht nur um ein Softwareproblem handele, sondern um ein massives industrielles Unterfangen, das vergleichbar mit dem Aufbau der zivilen Kernenergie sei. Europa verfüge über exzellente Talente und eine starke industrielle Basis, müsse aber mehr Kapital mobilisieren, um die notwendige Rechenleistung aufzubauen.
Chancen bei Industriedaten und physikalischen Modellen
Tanja Rückert, Digitalchefin der Robert Bosch GmbH, sagte, Europa müsse seine Stärken in der industriellen Anwendung ausspielen. Die Chance liege in „World Models“, die mit realen Industriedaten aus Fabriken und Fahrzeugen trainiert würden. Diese Daten seien nicht im Internet verfügbar und böten einen entscheidenden Wettbewerbsvorteil für sichere und zuverlässige industrielle KI.
Robin Rombach, Mitbegründer und CEO des deutschen KI-Start-ups Black Forest Labs, betonte die Bedeutung von visuellen Weltmodellen, die intuitive Physik erlernten. Diese seien entscheidend für die Robotik und könnten lokal auf Geräten ausgeführt werden, ohne auf die Cloud angewiesen zu sein. (dpa/afp/red)