In Kürze:
- Führende KI-Entwickler wie Anthropic und OpenAI diskutieren darüber, die Entwicklung besonders leistungsfähiger Modelle aus Sicherheitsgründen zu verlangsamen.
- In Deutschland setzt bislang gut jedes vierte Unternehmen KI ein. Viele Betriebe stehen bei der Nutzung der Technologie noch am Anfang.
- Für deutsche Unternehmen könnte ein langsameres Entwicklungstempo bedeuten, dass neue KI-Fähigkeiten später verfügbar werden.
Der Wettlauf um Künstliche Intelligenz kennt bislang in erster Linie eine Richtung: schneller. Leistungsfähigere Modelle sollen Unternehmen produktiver machen, Forschung beschleunigen und Aufgaben übernehmen, für die bislang Menschen benötigt wurden. Staaten investieren in Rechenzentren, Unternehmen stellen Arbeitsabläufe auf die neue Technik ein. Auch deutsche Firmen beginnen gerade erst, KI in größerem Umfang einzusetzen.
Nun kommt ausgerechnet aus der Branche selbst die Forderung, das Tempo zu verringern. Dario Amodei, Geschäftsführer des US-amerikanischen KI-Unternehmens Anthropic, fordert in einem Essay mit dem Titel „We Must Pace the Frontier“ ausdrücklich: „Wir müssen das Tempo verlangsamen, mit dem wir die Fähigkeiten von KI-Modellen verbessern.“ Fortschritte werde es weiterhin geben. Die gewonnene Zeit solle jedoch genutzt werden, damit Sicherheitsforschung und Schutzmaßnahmen mit den Fähigkeiten der Systeme Schritt halten können.
Einen allgemeinen Entwicklungsstopp fordert Amodei nicht. „Das Tempo zu drosseln bedeutet nicht, das Training von Modellen oder den technischen Fortschritt zu stoppen“, stellt er klar. Unternehmen sollten sich vielmehr ausreichend Zeit nehmen, ihre Modelle sicher auszurichten und abzusichern.
Amodei schlägt dafür unter anderem unabhängige Prüfer mit weitreichenden Einblicken in die Unternehmen sowie gemeinsame Sicherheitsstandards der Entwickler vor. Langfristig hält er auch internationale Absprachen für notwendig.
Auch beim Konkurrenten OpenAI wird inzwischen offen über eine Verlangsamung gesprochen. Chief Scientist Jakub Pachocki mahnt in seinem Beitrag „Ein fremder Geist“ zu einem vorsichtigen Vorgehen. „Diese Zeit verlangt äußerste Vorsicht“, schreibt er. OpenAI werde weiter an technischen Lösungen und Schutzsystemen arbeiten und „die weitere Skalierung bei Bedarf einseitig aussetzen“. Pachocki hält Maßnahmen über das eigene Unternehmen hinaus für erforderlich.
Damit nähern sich zwei führende KI-Entwickler in einem wesentlichen Punkt an: Die Entwicklung Künstlicher Intelligenz soll nicht beendet werden. Zur Debatte steht vielmehr, ob immer leistungsfähigere Systeme weiterhin in möglichst kurzer Folge entwickelt werden sollten oder ob Sicherheitsprüfungen und gemeinsame Regeln künftig stärker das Tempo bestimmen.
Wenn die Entwickler selbst bremsen
Anthropic hat für steigende Fähigkeiten seiner Systeme ein eigenes Regelwerk geschaffen. Die „Responsible Scaling Policy“ sieht vor, Sicherheitsmaßnahmen entsprechend den festgestellten Risiken zu verschärfen. Dabei untersucht das Unternehmen unter anderem Gefahren durch Cyberangriffe, biologische Anwendungen und Systeme, die selbst Aufgaben der KI-Forschung übernehmen könnten.
Auch OpenAI hat Entwicklungsarbeiten verzögert. Mitte August erklärte das Unternehmen, Arbeiten an seinem kommenden Modell GPT-6 Astra teilweise auszusetzen, bis strengere Sicherheitsvorkehrungen umgesetzt seien. Anfang September teilte OpenAI mit, Teile der Entwicklung und Veröffentlichung über mehrere Wochen verzögert zu haben.
Für die Entwickler entsteht damit ein Dilemma. Wer sich mehr Zeit für Sicherheitstests nimmt, riskiert, dass ein Konkurrent schneller ein leistungsfähigeres Modell auf den Markt bringt. Wer dagegen möglichst schnell weiterentwickelt, muss darauf achten, dass die Sicherheitsvorkehrungen mit den neuen Fähigkeiten Schritt halten.
Warum die Unternehmen davor warnen, zeigt Anthropic anhand eigener Untersuchungen. Der Entwickler von Claude berichtet über Fälle, in denen Akteure versucht hätten, KI-Modelle etwa für Cyberangriffe, Betrug, Spionage und Waffenentwicklung sowie zur Überwachung von Minderheiten und Regierungsgegnern zu nutzen. Anthropic betont allerdings, dass es sich um ausgewählte Missbrauchsfälle handele. Sie seien nicht typisch für die gewöhnliche Nutzung von Claude.
Der Bericht zeigt damit nicht, dass KI kurz davor steht, außer Kontrolle zu geraten. Er macht aber das Problem deutlich, vor dem die Entwickler stehen: Je leistungsfähiger ihre Modelle werden, desto mehr können sie für nützliche Zwecke eingesetzt werden, aber auch für Anwendungen, die erheblichen Schaden verursachen können.
Deutschlands Unternehmen steigen gerade ein
Für Deutschland kommt die Debatte zu einer Zeit, in der die Wirtschaft an einer breiteren Einführung von KI-Anwendungen arbeitet. Nach Angaben des Statistischen Bundesamtes (Destatis) verwendeten 2025 etwa 26 Prozent der Unternehmen mit mindestens zehn Beschäftigten KI. Bei Großunternehmen mit mindestens 250 Beschäftigten waren es 57 Prozent.
Viele Betriebe haben die Möglichkeiten vorhandener Systeme damit noch nicht ausgeschöpft. Von den Unternehmen, die KI nicht einsetzten, eine Nutzung aber erwogen hatten, nannten laut Destatis 72 Prozent fehlendes Wissen als Hindernis. 62 Prozent verwiesen auf unklare rechtliche Folgen, 60 Prozent auf Datenschutzbedenken. Die Ergebnisse wurden im November 2025 veröffentlicht.
Eine langsamere Entwicklung neuer KI-Modelle würde deshalb nicht bedeuten, dass der KI-Einsatz in Deutschland zum Stillstand käme, sondern dass neue und leistungsfähigere KI-Modelle später verfügbar wären als bisher erwartet. Für viele Unternehmen besteht die Herausforderung zunächst darin, bereits verfügbare Technik sinnvoll in ihre Abläufe einzubauen.
3 Stunden pro Woche
Warum Unternehmen in KI investieren, zeigt eine Befragung der Europäischen Zentralbank unter 20.000 Menschen in elf Ländern des Euroraumes. Laut der im August veröffentlichten Umfrage stieg der Anteil der Arbeitnehmer, die KI bei ihrer Arbeit verwenden, von 26 Prozent im Jahr 2024 auf 41 Prozent 2025 und 52 Prozent in diesem Jahr.
Nutzer berichteten im Durchschnitt von 3 Stunden eingesparter Arbeitszeit pro Woche. Besonders groß waren die angegebenen Zeitgewinne unter anderem beim Programmieren und bei der Fehlersuche in Software. Die EZB warnt allerdings davor, eingesparte Arbeitszeit unmittelbar mit zusätzlicher Wirtschaftsleistung gleichzusetzen. Produktivität entsteht erst, wenn die frei werdende Zeit für andere wertschöpfende Aufgaben eingesetzt wird.
Europa will gleichzeitig aufholen
Auch auf politischer Ebene deutet wenig auf einen Rückzug aus KI hin. Die Europäische Kommission plant, über ihren „Aktionsplan KI-Kontinent“ Investitionen von 200 Milliarden Euro zu mobilisieren. Im Vergleich dazu hat allein OpenAI laut „Financial Times“ im vergangenen Jahr 34 Milliarden US-Dollar (rund 30 Milliarden Euro) für die Entwicklung und Vermarktung von KI ausgegeben.
Parallel reguliert die EU die Technologie. Der AI-Act verpflichtet Anbieter besonders leistungsfähiger Modelle unter anderem dazu, systemische Risiken zu untersuchen und zu begrenzen, schwerwiegende Vorfälle zu melden und Schutzmaßnahmen gegen Cyberangriffe zu treffen.
Brüssel verfolgt damit zwei Ziele: Es will bei KI aufholen und gleichzeitig die Risiken leistungsfähiger Systeme begrenzen. Für Deutschland ist das relevant, weil viele Unternehmen KI über Software- und Cloudanbieter beziehen, während die zugrunde liegenden Modelle häufig außerhalb Europas entwickelt werden.
Wer bremst zuerst?
Damit wird aus der Sicherheitsdiskussion ein Koordinationsproblem. Anthropic kann seine Entwicklung verlangsamen, OpenAI ebenfalls. Solange andere Anbieter die Entwicklung weiter beschleunigen, entstehen für jedes Unternehmen jedoch Kosten, wenn es freiwillig zurückbleibt.
International verschärft sich dieser Konflikt. Die USA beabsichtigen, ihre technologische Führungsposition zu sichern, während Europa eigene Rechenkapazitäten aufbaut und China eigene Modelle und Infrastruktur entwickelt. Gemeinsame Sicherheitsgrenzen müssten deshalb über einzelne Unternehmen hinausreichen.
OpenAI-Forschungschef Pachocki plädiert im oben erwähnten Beitrag entsprechend für verbindliche Schwellen, die auch von unabhängigen Prüfern, staatlichen Stellen oder internationalen Institutionen überwacht werden könnten. Zugleich räumt er ein, dass eine Verlangsamung der Entwicklung koordiniert werden müsse, damit verantwortungsvoll handelnde Entwickler nicht dauerhaft gegenüber Konkurrenten zurückfallen.
Was das für Unternehmen bedeutet
Für deutsche Unternehmen entsteht damit eine neue Unsicherheit. Bislang konnten sie davon ausgehen, dass die großen KI-Entwickler ihre Modelle in kurzen Abständen verbessern und neue Fähigkeiten möglichst schnell auf den Markt bringen. Diese Erwartung ist nicht mehr selbstverständlich.
Noch ist offen, ob aus den Forderungen der Entwickler tatsächlich gemeinsame Regeln oder längere Abstände zwischen neuen Modellgenerationen entstehen. Auch lässt sich wenig abschätzen, wie stark sich mögliche Verzögerungen wirtschaftlich auswirken werden.
Für deutsche Unternehmen dürfte deshalb zunächst etwas anderes entscheidend sein: die heute verfügbaren Systeme weiter in ihre Geschäftsabläufe zu integrieren. Denn während über das Tempo der nächsten KI-Generation gestritten wird, ist das wirtschaftliche Potenzial der bestehenden Technik in vielen Betrieben noch längst nicht ausgeschöpft.