Künstliche Intelligenz entwickelt sich rasanter als je zuvor – und mit ihr die Fragen nach Kontrolle, Sicherheit und den Grenzen des technisch Machbaren. Im Gespräch mit Epoch Times ordnet der deutsche Wirtschaftspsychologe, Unternehmer und KI-Experte Christoph Burkhardt ein, wie ernst es Unternehmen wie Anthropic und OpenAI mit ihren eigenen Warnungen vor der Technologie meinen, welche Risiken der Einsatz von KI in kritischer Infrastruktur wie Energie, Telekommunikation und Logistik birgt und warum autonome KI-Agenten aus seiner Sicht eine der größten Gefahren der kommenden Jahre darstellen.
Burkhardt, der seit Jahren im Silicon Valley lebt und arbeitet, gründete unter anderem das Unternehmen TinyBox, die Burkhardt Group sowie 2023 das AI Impact Institute. Er tritt zudem international als Keynote-Speaker zu Künstlicher Intelligenz, Innovation und Zukunftstechnologien auf und veröffentlichte 2025 das Buch „AI Done Right“.
Anthropic-CEO Dario Amodei fordert die KI-Branche auf, die Entwicklung von KI-Modellen zu verlangsamen, da die Fähigkeiten der Systeme schneller wachsen könnten als unsere Möglichkeiten, sie zu verstehen und zu kontrollieren. Sehen Sie diese Gefahr auch – und ist das überhaupt realistisch?
Das ist eine gute Frage. Die Gefahr, dass sich KI selbstständig macht und außerhalb unserer Kontrolle operiert, besteht natürlich ab einem bestimmten Punkt. Auf der anderen Seite sehen sich gerade Anthropic und OpenAI in einem Kampf um das Überleben. Aus der PR-Brille gesehen ist es natürlich sinnvoll, Forderungen zu machen und nach Regulierung zu fragen. Aber ob es hier wirklich um einen ernst gemeinten Versuch geht, die Geschwindigkeit der Entwicklung rauszunehmen, halte ich für unrealistisch, da beide Unternehmen um die Spitze kämpfen müssen.
KI ist mittlerweile in so vielen Bereichen aktiv eingebunden. KI allgemein zurückzufahren macht nicht in allen Bereichen Sinn.
KI wird zunehmend in kritischen Bereichen der Gesellschaft eingesetzt – Energie, Telekommunikation, Internet, Logistik und Lebensmittelversorgung. Birgt das nicht ein Risiko für unsere Infrastruktur, und wie kann eine rein friedliche Nutzung zum Wohle der Menschheit sichergestellt werden?
Das ist eine der größten Fragen überhaupt. Diese Sicherheit kann die KI, so wie sie heute gebaut ist, gar nicht gewährleisten. Eine 100-prozentig zuverlässige Künstliche Intelligenz, so wie es sich Europa wünscht, kann es aufgrund der statistischen Arbeitsweise von diesen Modellen gar nicht geben. Da ist immer noch eine Fehlerquote drin. Aber dass wir die 100-Prozent-Lösung in allen Systemen, zu allen Zeiten – vor allem bei allen kritischen Systemen – in den nächsten anderthalb Jahren hinbekommen, ist nicht abzusehen.
Wenn man das autonome Fahren als Beispiel nimmt, war für die Amerikaner schnell klar: Wenn das Auto besser fährt als der Mensch, ist das gut genug. Genau das ist die Frage, die sich uns stellt: Was ist für uns gut genug? Bei mancher kritischen Infrastruktur werden wir sehr nah an die 100 Prozent heranmüssen und wahrscheinlich noch sehr viel Mensch mit im Kreislauf lassen müssen.
Das heißt, wir brauchen sehr viele Menschen, die die Maschinen beobachten, und sehr viel Maschine, die auch den Menschen beobachtet, um Fehler auszumerzen. Und die Frage ist: Kann die Maschine helfen, diese Fehler zu beseitigen? Dann hat sie absolut eine Berechtigung, da zu sein.
Interessant wird es natürlich bei Cyberattacken, die über die Landesgrenzen hinausgehen. Da besteht eine tatsächliche Gefahr. Dieselben Leute, die die Cyberattacken mit KI kontrollieren und ansetzen, müssen uns auch in der Verteidigung vor Cyberattacken schützen. Wer da gewinnt, ist noch völlig unklar. Aber es sind beide Seiten, die massiv aufrüsten.
Die KI hat sich in wenigen Jahren mit Riesensprüngen entwickelt. Können unsere Sicherheitsmechanismen mit diesem Tempo mithalten?
Ich glaube tatsächlich, dass das in den nächsten zwei bis fünf Jahren eine große Herausforderung wird. Da werden wir sicher sehr viele Betrugsfälle sehen. Sie [die KI] gewinnt Vertrauen schneller, als wir das jemals zuvor mit einer Technologie hatten.
Beim Internet war noch klar, dass wir uns einloggen und dann unsere Daten preisgeben. Bei KI ist das alles nicht mehr so sichtbar, was wir da eigentlich preisgeben. Und die größte Gefahr, die ich sehe, ist, dass Menschen nicht mitkommen zu verstehen, dass sie gerade mit einer Maschine interagieren – und deshalb nicht erkennen und sehr bewusst entscheiden, was sie ihr geben und was sie ihr nicht geben.
Wenn wir uns heute anschauen, was die Hauptnutzung von Chatbots wie ChatGPT und Co. ist – nämlich die Nutzung für ein persönliches Gespräch –, dann sind das die persönlichsten Daten überhaupt.
Wir vergessen zu schnell, dass wir eben nicht mit einem Menschen interagieren. Und ich glaube, wir brauchen eine große Bildungsoffensive, um Leuten das klarzumachen und sie genauso wie beim Internet vor diesen Fallen zu warnen. Und das müssen wir viel, viel schneller machen, als wir es beim Internet getan haben.
Ich sehe auch, dass die EU-Regulierung da schneller greifen muss, um diese Leitplanken aufzusetzen, damit Leute in bestimmten Fällen besser geschützt sein können, als sie es heute sind. Wenn wir zum Beispiel überlegen, dass generierte Texte ein Wasserzeichen oder eine Art Wasserzeichen enthalten sollten, das man nicht entfernen kann – solche Sachen halte ich für absolut wichtig.
Genauso, dass, wenn wir künstliche Filmschnipsel generieren, in denen aber echte Menschen auftauchen, es einen Mechanismus geben muss, an dem man erkennt, dass das KI-generiert ist. Also, das Labeling muss passieren.
Mehrere KI-Entwickler haben eingeräumt, dass ihre Modelle unbeabsichtigt in fremde Unternehmens-IT eingedrungen sind, ähnlich einem Hackerangriff. Wie können sich Privatanwender davor schützen, Opfer eines außer Kontrolle geratenen KI-Modells zu werden?
Das eine sind die großen Unternehmen, deren Agenten gerade abhauen. Es ist fast schon so, dass man das auf deren Seite als Bestätigung der eigenen Fähigkeiten sieht, wenn die Agenten so gut sind, dass sie sogar ihre eigenen Systeme verlassen und Dinge tun, zu denen sie nicht angeleitet wurden. Und es ist auch kein Zufall, dass wir das erst bei Anthropic sehen und zwei Wochen später bei OpenAI dasselbe passiert. Denn im Grunde ist das eine Entwicklung, die fast schon gepusht wird, dass das jetzt passieren soll.
Die größte Gefahr besteht in völlig autonomen Agenten, die einfach selbst entscheiden, was sie tun. Das ist eine Entwicklung, die können wir uns in fast keinem Bereich leisten. Das Problem ist, wir selbst als Nutzer können das nicht steuern. Das muss entweder reguliert werden oder es muss von den Unternehmen selbst eingestellt werden. Da sehe ich im Moment im Silicon Valley noch nicht genug Druck, zu sagen, das stellen wir selbst ab. Es ist eher so, dass man die agentische Intelligenz so stark nach vorne bringen will, dass sie auch autonom funktioniert. Und das ist eine große Gefahr. Die sehe ich auch, aber die liegt leider nicht in der Hand der Nutzer.
Der Ruf nach gemeinsamen Standards für Kleinunternehmen im Umgang mit KI-Modellen wird lauter. Wie könnten solche Standards aussehen?
Wenn ich es noch mal mit dem Internet vergleichen würde: Wir haben jetzt die ersten Standards dafür gesetzt, wie Leute eine Website online stellen. Wir stehen noch ganz am Anfang. Das fühlt sich zwar so an, als würde das wahnsinnig schnell gehen, aber wir haben immer noch gar nichts gesehen.
Die Welt wird in fünf Jahren völlig anders aussehen, und es ist einfach heute nicht absehbar, was wir da eigentlich regulieren. Wir können versuchen, grundsätzliche Standards zu schaffen, so wie wir es bei Strom und Internet auch hinbekommen haben, damit zumindest die ganze Welt teilhaben kann und die Anwendung dieser Modelle auf möglichst viele Köpfe verteilt wird. Das ist aus meiner Sicht die größte Hoffnung, die wir haben.
Je mehr Leute sich beteiligen, desto mehr Leute schaffen Alternativen und finden gute Anwendungen. Die Gefahr ist, dass wir auch in diesen Bereichen wieder zu viele Monopolisten bekommen, die mit sehr wenigen Köpfen entscheiden, was die anderen machen müssen.
Wenn Maschinen immer mehr menschliche Fähigkeiten kopieren, der Mensch aber selbst zunehmend technologisch denken muss – geht dabei nicht auch ein Stück Menschsein verloren? Ist das ein Szenario?
Das ist ein Szenario. Und ich glaube auch, dass wir Menschen in den letzten 20 Jahren wahrscheinlich sehr dazu getrieben haben, sich eigentlich wie Maschinen zu benehmen. Und jetzt kommt der große Knall: Alle, die sich wie eine Maschine benehmen – vor allem in ihrer Arbeit, ihrem Erzeugnis, ihrem Wert in der Wertschöpfung –, werden durch eine Maschine ersetzt, die eben genau dasselbe kann.
Was wir im Gegenzug eigentlich brauchen, ist, dass wir als Menschen verstehen, was uns menschlich macht und was unsere Intelligenz auch völlig anders macht als die Intelligenz einer Maschine. Also unser kreatives Element, wirklich Neues zu schaffen, das Originelle zu entwickeln – das ist eine Fähigkeit, die der KI noch fehlt. Wir wissen nicht, ob sie da jemals hinkommt.
Wir sehen es zum Beispiel im Customer Service: Die ganzen Bots, die jetzt bei uns ans Telefon gehen, wissen Kunden nicht immer zu schätzen. Schafft man eine Hotelrezeption einfach ab, geht plötzlich die Loyalität der Gäste zurück, weil sie sich eigentlich das individuelle Gespräch mit der Person an der Rezeption wünschen.
Und was sehen wir daraus? Das ist eigentlich eine große Chance für uns. Nämlich dass alles, was kein Mensch für einen anderen Menschen macht, die Maschine abnimmt – und was übrig bleibt, sind eben die Fertigkeiten, für die Menschen eigentlich gemacht sind: zu interagieren, kollektiv zu denken, kollektive Intelligenz zu bauen, Ideen weiterzuentwickeln.
Deswegen haben wir ja Unternehmen, die nicht nur aus Einzelpersonen und 25 Agenten bestehen. Das ist sehr, sehr selten passiert und nur in ganz kleinen Nischen, und es kann nicht das Modell für viele Leute und viele Unternehmen werden. Das ist unrealistisch, weil wir als Menschen immer noch etwas an den Tisch bringen: Einzigartigkeit.
Wir haben einzigartige Lernerfahrungen, einzigartige Informationen über die Welt, die erst wertvoll werden, wenn wir sie mit anderen Leuten teilen, die diese Informationen nicht haben. Und das macht die Maschine nicht. Das heißt, aus Menschen das herauszuholen, was uns einzigartig und wertvoll macht – das wird die große Aufgabe der nächsten Jahre sein.
Vielen Dank für das Gespräch.
Das Interview führte Erik Rusch.
