Tag: Chatbots

Categories
etplus gesellschaft ticker wirtschaft

Atypisch für Deutschland? Wie ein 19-jähriger Unternehmer auf Erfolgskurs geht

Mit 19 Jahren führt Pascal Becker ein wachsendes IT-Unternehmen in Wiesbaden. - Foto: BIT-Systems GmbH
„Dann sind natürlich Tränen geflossen, Stühle geflogen“, erzählt Pascal Becker schmunzelnd.
Der 19-Jährige erinnert sich an den Tag, an dem er seiner Mutter sagte, dass er die Schule abbrechen wolle.
Sie stammt aus einer Unternehmerfamilie, in der ein guter Schulabschluss dennoch wichtig war. Auch Beckers Vater hat als Arzt gearbeitet und vor seiner Selbstständigkeit promoviert.
Becker sah für sich jedoch einen anderen Lebensweg. Bereits mit 16 Jahren hatte er sich neben der Schule selbstständig gemacht. Als er mit seinen IT-Dienstleistungen immer erfolgreicher wurde und die Aufträge ihn zunehmend beanspruchten, entschied er sich, sich ganz auf seine Kunden und das Unternehmertum zu konzentrieren. Und diese Entscheidung bereut er bis heute nicht.
Die Zahlen, die Becker nennt, sind bemerkenswert: Nach seinen Angaben stieg der Jahresumsatz von rund 10.000 Euro im Jahr 2023 auf 100.000 Euro 2024 und 1 Million Euro 2025. Für 2026 rechnet er sogar mit 6 Millionen Euro. „Wir sind sehr, sehr gut dabei“, sagt er.
Was 2023 als Einzelunternehmen begann, entwickelte sich zur BIT-Systems GmbH, die nach eigener Beschreibung ein deutschlandweit tätiges, auf den Mittelstand spezialisiertes IT-Systemhaus ist.
Seit 2026 baut Becker unter dem Namen BIT Group weitere Geschäftsfelder auf, darunter Personalvermittlung und Softwareentwicklung. Neben Wiesbaden ist der Standort München hinzugekommen. Die Anzahl der Festangestellten stieg nach seinen Angaben auf 55.

„Irgendwann fragt auch keiner mehr nach dem Alter“

Kaum ist Becker aus Amsterdam zurück, wartet schon der nächste Termin. Seine Stimme klingt dennoch energiegeladen und vor allem selbstbewusst.
Er war auf einer Fachmesse für Cybersicherheit, eingeladen von einem Geschäftspartner. Für ihn gehört es zum Alltag, technologische Entwicklungen im Blick zu behalten. Zugleich ist es für ihn besonders schön zu sehen, „wenn auch unsere Arbeit in der Branche so ein bisschen wertgeschätzt wird“.

Im Schnitt besucht Becker monatlich 20 potenzielle Neukunden.

Foto: BIT-Systems GmbH

Dass er erst 19 Jahre alt ist, sorgt auch dort noch immer für Erstaunen. In einer Runde mit zahlreichen Branchenkollegen habe der Geschäftspartner sein Alter verraten und hinzugefügt: „Der macht den gleichen Umsatz wie ihr.“ Diese Anekdote erzählt Becker am Rande des Gesprächs mit Stolz, als die Frage aufkommt, ob sein junges Alter in der oft als konservativ geltenden deutschen Unternehmerwelt zum Nachteil werden könne.
„Das Schwierigste war es, den ersten Kunden rumzukriegen. Danach ging es dann relativ zügig weiter.“
Nach drei Jahren in der Branche erhält er viele Weiterempfehlungen von Kunden. Stolz ist er darauf, dass sein IT-Systemhaus in dieser Zeit keinen einzigen Kunden verloren habe. Für stetiges Wachstum setzt er aber auch auf Kaltakquise, um neue Kunden zu gewinnen.
Rund 20 Gespräche mit potenziellen Neukunden führt Becker zurzeit nach eigenen Angaben jeden Monat. Aus etwa jedem zweiten werde ein Auftrag.
Häufig begleitet ihn dabei der technische Leiter oder ein Spezialist für Softwareentwicklung, der das entscheidende Know-how mitbringt „und auch ein bisschen Reputation schafft“.
„Irgendwann fragt auch keiner mehr nach deinem Alter“, sagt Becker lächelnd.

Die 80-Stunden-Woche eines Gen-Z-Unternehmers

Wenn es sein Terminkalender erlaubt, beginnt Becker den Tag im Büro in Wiesbaden.
Dort verschafft er sich einen Überblick über laufende Projekte und mögliche Störungen. Nach seiner Erfahrung treten technische Probleme besonders häufig morgens auf.
Anschließend folgen Gespräche mit Mitarbeitern, Führungskräften und Auszubildenden, bevor am Nachmittag die Außentermine anstehen. „Ich mache keine Technik mehr. Ich mache nur noch Vertrieb und Management“, sagt Becker.
Die Kunden stammen aus unterschiedlichen Branchen: von spezialisierten Technologieunternehmen über größere Fleischereien bis hin zu Tierkliniken.

Trotz seines jungen Alters wird Becker von Geschäftspartnern und Kunden geschätzt.

Foto: BIT-Systems GmbH

Sobald ein Vertrag geschlossen ist, übernimmt das technische Team. Mit rund 40 Mitarbeitern bildet es die mit Abstand größte Abteilung des Unternehmens.
Die Mitarbeiter kümmern sich um sämtliche IT-Probleme der Kunden – von Hard- und Software über die Verwaltung der IT-Systeme bis hin zu Lösungen für die Cybersicherheit. Darunter sind auch mehrere Auszubildende.
Hinzu kommen Mitarbeiter im Management, Backoffice, Recruiting und Vertrieb, die zusammen das 55-köpfige Team bilden. Das Durchschnittsalter im Unternehmen schätzt Becker auf rund 30 Jahre.
Den Abend lässt Becker gern „mit etwas Sinnvollem ausklingen“. So trifft er sich mit Beratern, Geschäftspartnern oder Kunden zum Essen, wo ein persönliches, freundschaftliches Verhältnis das Geschäftliche abrundet.
So kommt der junge Unternehmer nach eigenen Angaben schnell auf rund 80 Arbeitsstunden pro Woche.

„Ich war immer der, der am meisten gearbeitet hat“

Woher nimmt er diese Motivation – als Angehöriger der Generation Z, die in der heutigen Arbeitswelt eher bekannt ist für ihren Fokus auf „Work-Life-Balance“?
Bei dieser Frage erinnert sich Becker gern an die Zeit, als er noch als Schüler bei einem der größten IT-Systemhauskonzerne Deutschlands ein Praktikum begann. Zunächst musste er lediglich Laptops von A nach B bringen. Später durfte er Kunden zeigen, wie ihre IT-Infrastruktur aussehen sollte. Zunehmend betreute er die Projekte selbstständig.
„Ich war vielleicht nicht der, der am schnellsten war. Am Anfang gar nicht. Aber ich war immer der, der am meisten gearbeitet hat“, erzählt er lächelnd.
Von seiner Familie sei er „wortwörtlich“ zur Selbstständigkeit erzogen worden. Ob Vater oder Mutter, Großmutter väterlicherseits oder Großvater mütterlicherseits – viele seiner Familienmitglieder waren selbstständig. „Das liegt so ein bisschen bei uns, in der Natur der Sache.“
Doch neben dem familiären Hintergrund ist es vor allem die Freude an seiner Arbeit, die ihn antreibt. „Es ist das Thema IT und jetzt auch das Thema Vertrieb und Partnermanagement. Das sind Sachen, die machen mir einen unglaublichen Spaß.“
Aus dieser Begeisterung erwächst bei dem jungen Unternehmer der Wunsch, den Kunden eigene Lösungen anzubieten – aus seiner Sicht näher am Kunden, schneller und effizienter, vor allem aber preislich „transparent und fair“.
Im November 2023 machte sich Becker mit 16 Jahren als Einzelunternehmer selbstständig. Als Minderjähriger musste er dafür eine gerichtliche Genehmigung einholen. Seine Eltern begleiteten ihn dabei. Auf die Frage, ob sie ihrem Sohn das zutrauten, antworteten beide mit „Ja“.
Ohne ihre Zustimmung, erfuhr er später, wäre sein Vorhaben kaum möglich gewesen.
Als Becker jedoch in der zwölften Klasse die Schule abbrechen wollte, um sich ganz auf sein Unternehmen zu konzentrieren, stieß er nicht zuletzt bei seiner Mutter auf erheblichen Widerstand.
Wie durch Zauberhand wirkten schließlich die Worte einer Taxifahrerin, die ihn seit fast einem Jahr regelmäßig zu Kundenterminen fuhr. Sie sagte zu seiner Mutter:
„Hören Sie, Frau Becker, ich fahre den Jungen jeden Tag von A nach B, und das mache ich seit knapp einem Jahr. Sie können davon ausgehen, wenn er so weitermacht wie jetzt, dann kann das gar nicht schiefgehen.“
Schließlich unterschrieb seine Mutter die Abmeldung.

Mut und Vertrauen: Ein Rezept gegen den Fachkräftemangel?

Was seine Eltern ihm mit 16 Jahren zutrauten, traut er heute seinen Mitarbeitern zu: Verantwortung zu übernehmen, Fehler zu machen und daran zu wachsen.
Denn neue Kunden zu gewinnen, ist nur die eine Hälfte des Geschäfts. Die andere besteht darin, genügend qualifizierte Beschäftigte für die umfangreichen Kundenaufträge zu finden.
Gerade in der IT-Branche ist das keine Selbstverständlichkeit: Nach einer Prognose des Digitalverbands Bitkom dürfte der deutsche IT-Markt im Jahr 2026 um 5,4 Prozent auf knapp 171 Milliarden Euro wachsen. Zugleich bleiben Fachkräfte knapp. Die von Bitkom bezifferte Zahl der unbesetzten IT-Stellen liegt 2026 bei rund 79.000.
„Die Lösung für den Fachkräftemangel ist es nicht, die guten Leute einzustellen. Die Lösung für den Fachkräftemangel ist es, die Leute einzustellen, die man hat. Und diese Leute so lange zu qualifizieren, bis man daraus eine Fachkraft hat“, sagt Becker überzeugt.
Mindestens vier Auszubildende nimmt sein Unternehmen nach eigenen Angaben jedes Jahr auf. Hinzu kommen Praktikanten und Quereinsteiger. Dabei sollen die jungen Leute nicht bloß zuschauen. Vom ersten Tag an erhalten sie praktische Aufgaben.

Im Umgang mit seinem Team spielen Mut und Vertrauen eine wichtige Rolle.

Foto: BIT-Systems GmbH

Für jeden Auszubildenden sieht Becker nach eigenen Angaben während der dreijährigen Ausbildung Schulungen im Wert von mindestens 10.000 Euro vor. Zuvor bespricht er mit jedem individuell, in welche Richtung er sich beruflich entwickeln möchte.
Stolz berichtet er auch, dass seine Auszubildenden regelmäßig zu den Besten ihrer Berufsschulklassen gehörten.
„Ich erwarte auch von jedem Mitarbeiter, der bei uns ist, dass er jeden Tag auf die Arbeit kommt und sagt: ‚Ich mache das gerne noch einen weiteren Tag.‘ Wenn er es nicht gerne noch einen weiteren Tag macht, dann wird der Kunde das merken.“
Bei der Personalauswahl zählt für ihn nicht allein der Lebenslauf:
„Es kommt darauf an, was sie im Kopf haben. Es kommt nicht darauf an, was sie da auf Papier stehen haben.“
Damit gibt er im Umgang mit seinen Mitarbeitern jenes „amerikanische Mindset“ weiter, das er selbst durch seine Eltern erfahren hat.

Die Expansion: Keine „Angst vor Scheitern“?

Um sich auch langfristig für das schnelle Wachstum des Geschäfts notwendige Personal zu sichern, ist Becker dabei, eine Münchner Personalvermittlung zu übernehmen.
Er bezeichnet die Entscheidung als eines der „zwei schlauen Dinge“, die er Anfang des Jahres gemacht habe.
Auch eine eigenständige Tochtergesellschaft für Softwareentwicklung und ein auf IT-Lösungen für Tierarztpraxen spezialisierter Geschäftsbereich gehören zum sich vollziehenden Wandel des IT-Systemhauses BIT-Systems GmbH zur breiter aufgestellten BIT Group.
Insgesamt möchte Becker im kommenden Jahr „mindestens“ 10 Millionen Euro Umsatz erwirtschaften.
Den Ausbau finanziert Becker aus laufenden Einnahmen und Bankkrediten, ganz ohne externe Investoren. „Also ich bin, wenn Sie so möchten, hoch verschuldet“, sagt er schmunzelnd.
Damit führt das Gespräch unweigerlich zur aktuellen Debatte über den Wirtschaftsstandort Deutschland. Der deutschstämmige US-Investor Peter Thiel sprach in einem Interview sinngemäß davon, dass in Deutschland weniger Gründer als in den USA ihre Unternehmen zu internationaler Größe ausbauten. Als mögliche Gründe nannte er eine Angst vor dem Scheitern, aber auch vor dem Erfolg.
„Angst vor Scheitern gibt es in Deutschland ohne Ende.“ Auch Becker stimmt zu.
„Wir sind in Deutschland meiner Meinung nach in einer Gesellschaft, die von Angst und durch Angst geprägt ist. Der Deutsche ist klassisch zurückhaltend, sauber und ordentlich strukturiert, aber definitiv niemand, der nach vorne prescht.“
Umso dankbarer ist Becker seinen unternehmerisch tätigen Eltern und Großeltern, die ihm vorlebten, mit Risiken und Ängsten umzugehen. „Ich habe ja gesehen, dass es funktionieren kann.“
Andererseits habe er auch keine Angst davor, dass seine Pläne scheitern könnten. „Wenn es nicht funktioniert, mache ich das, was alle anderen auch machen und gehe arbeiten.“

Standort Deutschland: Zwischen Krise und Zuversicht

Die Angst vor dem Erfolg hänge vielmehr mit den Rahmenbedingungen zusammen, die das Wachstum junger Unternehmen in Deutschland erschweren.
Verschiedene Studien, darunter der KfW-Gründungsmonitor 2026 und der Deutsche Startup Monitor 2026, beleuchten die Herausforderungen, vor denen Gründer in Deutschland stehen.
In den USA sei Kapital von institutionellen und privaten Investoren wesentlich leichter zugänglich, sagt Becker. In Deutschland erschwerten zudem hohe Steuern, Bürokratie und politische Unsicherheit das Wachstum.
„Wir haben die Bürokratie erschaffen. Wir leben sie auch“, sagt Becker. Seiner Meinung nach habe sich Deutschland damit „selbst einen Strick um den Hals gelegt“. Manchen politischen Entscheidungsträgern fehle aus seiner Sicht außerdem wirtschaftliche und unternehmerische Erfahrung.
Allerdings unterscheide sich sein Geschäftsmodell von dem eines klassischen Start-ups, das ein bestimmtes Produkt entwickelt und mithilfe von Wagniskapital schnell in großer Stückzahl verkaufen kann. „Bei uns muss der gesamte Apparat wachsen und das muss er mit einer gewissen Effizienz“, urteilt er nüchtern. Sonst werde das Unternehmen zu teuer und könne die Kunden nicht mehr zu dem zugesicherten Preis bedienen.
„Es sind ganz andere Dynamiken in der Firma. Der Kunde kommt zu uns mit einem von 20.000 Problemen. Wir müssen eine Lösung für dieses Problem finden. Dafür gibt es aber kein Schema F. Das heißt, jeder Kunde ist in sich einzigartig.“
Diese Kundennähe und die breite Aufstellung seiner IT-Dienstleistungen binden ihn an den Standort Deutschland und ermöglichen es ihm zugleich, hier weiterzuwachsen.

Pascal Becker will sein IT-Unternehmen weiter ausbauen – und sieht seine Zukunft am Standort Deutschland.

Foto: BIT-Systems GmbH

Um Risiken zu streuen, setzt er jedoch schon früh gezielt auf Kunden aus zukunftsträchtigen Branchen, darunter spezialisierte Technologieunternehmen und der medizinische Bereich. „Sie nutzen jeden Tag Produkte von unseren Kunden, ohne das zu wissen“, sagt er.
Sein Ziel: Er will ein solides mittelständisches Unternehmen aufbauen, das langfristig Bestand hat.
„Wir haben eine Krise.“ Der 19-Jährige erwartet zweifelsohne schwierige Jahre für Deutschland, bleibt aber zuversichtlich:
„Ich bin fest überzeugt, dass man sich da wieder aus der Krise rausarbeiten kann.“

„KI ist ein Werkzeug, nicht die Lösung“

Als IT-Unternehmer kommt auch Becker an Künstlicher Intelligenz nicht vorbei.
Gerade in der Cybersicherheit sieht er großes Potenzial. KI-gestützte Systeme können Daten aus unterschiedlichen Quellen auswerten und dabei helfen, verdächtige Vorgänge schneller zu erkennen. Auch intern nutzt sein Unternehmen Chatbots und KI-basierte Wissensdatenbanken.
Eine Grenze zieht Becker jedoch beim Kundenkontakt. Wer bei seinem Unternehmen anruft, soll weiterhin mit einem Menschen sprechen:
„Der Mensch braucht jetzt Hilfe und er braucht Hilfe von einem anderen Menschen.“
Ein KI-Chatbot könnte nach seiner Einschätzung so viel Arbeit übernehmen, dass sich mindestens 20 Prozent des Personals anderweitig einsetzen ließen. Trotzdem verzichtet er auf einen solchen Assistenten als erste Anlaufstelle.
Hinter den Kulissen soll KI die Arbeit beschleunigen. Im direkten Kundenkontakt bleibt für Becker der Mensch entscheidend. „KI ist ein Werkzeug, nicht die Lösung.“

„Eine Last, die man gerne trägt“

Bei allen Wachstumsplänen will Becker die Menschen hinter seinem Unternehmen nicht aus dem Blick verlieren.
Drei Mitarbeiter seien von Anfang an dabei gewesen und gehörten heute zum Führungsteam. Den Erfolg allein für sich zu beanspruchen, wäre deshalb falsch, sagt er. Gemeinsam hätten sie etwas aufgebaut, auf das inzwischen viele Menschen angewiesen seien.
Denn hinter den 55 Beschäftigten stehen auch Familien, deren Lebensunterhalt vom Unternehmen abhängt. Mit jedem neuen Auftrag, jeder Einstellung und jeder Investition wächst daher auch Beckers Verantwortung. „Das ist ein Risiko. Das ist eine Last, die man gerne trägt. Aber es ist eine Last“, sagt er.
Abschrecken lässt er sich davon nicht. Für Becker gehören Verantwortung und unternehmerische Freiheit zusammen. Fehler habe er auf seinem Weg durchaus gemacht.
Und wenn er noch einmal 16 wäre?
„Ich würde es exakt wieder so machen.“
Categories
etplus gesellschaft ticker

KI-Entwicklung verlangsamen: Ist das realistisch?

Künstliche Intelligenz entwickelt sich rasanter als je zuvor – und mit ihr die Fragen nach Kontrolle, Sicherheit und den Grenzen des technisch Machbaren. Im Gespräch mit Epoch Times ordnet der deutsche Wirtschaftspsychologe, Unternehmer und KI-Experte Christoph Burkhardt ein, wie ernst es Unternehmen wie Anthropic und OpenAI mit ihren eigenen Warnungen vor der Technologie meinen, welche Risiken der Einsatz von KI in kritischer Infrastruktur wie Energie, Telekommunikation und Logistik birgt und warum autonome KI-Agenten aus seiner Sicht eine der größten Gefahren der kommenden Jahre darstellen.
Burkhardt, der seit Jahren im Silicon Valley lebt und arbeitet, gründete unter anderem das Unternehmen TinyBox, die Burkhardt Group sowie 2023 das AI Impact Institute. Er tritt zudem international als Keynote-Speaker zu Künstlicher Intelligenz, Innovation und Zukunftstechnologien auf und veröffentlichte 2025 das Buch „AI Done Right“.
Anthropic-CEO Dario Amodei fordert die KI-Branche auf, die Entwicklung von KI-Modellen zu verlangsamen, da die Fähigkeiten der Systeme schneller wachsen könnten als unsere Möglichkeiten, sie zu verstehen und zu kontrollieren. Sehen Sie diese Gefahr auch – und ist das überhaupt realistisch?
Das ist eine gute Frage. Die Gefahr, dass sich KI selbstständig macht und außerhalb unserer Kontrolle operiert, besteht natürlich ab einem bestimmten Punkt. Auf der anderen Seite sehen sich gerade Anthropic und OpenAI in einem Kampf um das Überleben. Aus der PR-Brille gesehen ist es natürlich sinnvoll, Forderungen zu machen und nach Regulierung zu fragen. Aber ob es hier wirklich um einen ernst gemeinten Versuch geht, die Geschwindigkeit der Entwicklung rauszunehmen, halte ich für unrealistisch, da beide Unternehmen um die Spitze kämpfen müssen.
KI ist mittlerweile in so vielen Bereichen aktiv eingebunden. KI allgemein zurückzufahren macht nicht in allen Bereichen Sinn.
KI wird zunehmend in kritischen Bereichen der Gesellschaft eingesetzt – Energie, Telekommunikation, Internet, Logistik und Lebensmittelversorgung. Birgt das nicht ein Risiko für unsere Infrastruktur, und wie kann eine rein friedliche Nutzung zum Wohle der Menschheit sichergestellt werden?
Das ist eine der größten Fragen überhaupt. Diese Sicherheit kann die KI, so wie sie heute gebaut ist, gar nicht gewährleisten. Eine 100-prozentig zuverlässige Künstliche Intelligenz, so wie es sich Europa wünscht, kann es aufgrund der statistischen Arbeitsweise von diesen Modellen gar nicht geben. Da ist immer noch eine Fehlerquote drin. Aber dass wir die 100-Prozent-Lösung in allen Systemen, zu allen Zeiten – vor allem bei allen kritischen Systemen – in den nächsten anderthalb Jahren hinbekommen, ist nicht abzusehen.
Wenn man das autonome Fahren als Beispiel nimmt, war für die Amerikaner schnell klar: Wenn das Auto besser fährt als der Mensch, ist das gut genug. Genau das ist die Frage, die sich uns stellt: Was ist für uns gut genug? Bei mancher kritischen Infrastruktur werden wir sehr nah an die 100 Prozent heranmüssen und wahrscheinlich noch sehr viel Mensch mit im Kreislauf lassen müssen.
Das heißt, wir brauchen sehr viele Menschen, die die Maschinen beobachten, und sehr viel Maschine, die auch den Menschen beobachtet, um Fehler auszumerzen. Und die Frage ist: Kann die Maschine helfen, diese Fehler zu beseitigen? Dann hat sie absolut eine Berechtigung, da zu sein.
Interessant wird es natürlich bei Cyberattacken, die über die Landesgrenzen hinausgehen. Da besteht eine tatsächliche Gefahr. Dieselben Leute, die die Cyberattacken mit KI kontrollieren und ansetzen, müssen uns auch in der Verteidigung vor Cyberattacken schützen. Wer da gewinnt, ist noch völlig unklar. Aber es sind beide Seiten, die massiv aufrüsten.
Die KI hat sich in wenigen Jahren mit Riesensprüngen entwickelt. Können unsere Sicherheitsmechanismen mit diesem Tempo mithalten?

Ich glaube tatsächlich, dass das in den nächsten zwei bis fünf Jahren eine große Herausforderung wird. Da werden wir sicher sehr viele Betrugsfälle sehen. Sie [die KI] gewinnt Vertrauen schneller, als wir das jemals zuvor mit einer Technologie hatten.

Beim Internet war noch klar, dass wir uns einloggen und dann unsere Daten preisgeben. Bei KI ist das alles nicht mehr so sichtbar, was wir da eigentlich preisgeben. Und die größte Gefahr, die ich sehe, ist, dass Menschen nicht mitkommen zu verstehen, dass sie gerade mit einer Maschine interagieren – und deshalb nicht erkennen und sehr bewusst entscheiden, was sie ihr geben und was sie ihr nicht geben.

Wenn wir uns heute anschauen, was die Hauptnutzung von Chatbots wie ChatGPT und Co. ist – nämlich die Nutzung für ein persönliches Gespräch –, dann sind das die persönlichsten Daten überhaupt.

Wir vergessen zu schnell, dass wir eben nicht mit einem Menschen interagieren. Und ich glaube, wir brauchen eine große Bildungsoffensive, um Leuten das klarzumachen und sie genauso wie beim Internet vor diesen Fallen zu warnen. Und das müssen wir viel, viel schneller machen, als wir es beim Internet getan haben.
Ich sehe auch, dass die EU-Regulierung da schneller greifen muss, um diese Leitplanken aufzusetzen, damit Leute in bestimmten Fällen besser geschützt sein können, als sie es heute sind. Wenn wir zum Beispiel überlegen, dass generierte Texte ein Wasserzeichen oder eine Art Wasserzeichen enthalten sollten, das man nicht entfernen kann – solche Sachen halte ich für absolut wichtig.
Genauso, dass, wenn wir künstliche Filmschnipsel generieren, in denen aber echte Menschen auftauchen, es einen Mechanismus geben muss, an dem man erkennt, dass das KI-generiert ist. Also, das Labeling muss passieren.
Mehrere KI-Entwickler haben eingeräumt, dass ihre Modelle unbeabsichtigt in fremde Unternehmens-IT eingedrungen sind, ähnlich einem Hackerangriff. Wie können sich Privatanwender davor schützen, Opfer eines außer Kontrolle geratenen KI-Modells zu werden?
Das eine sind die großen Unternehmen, deren Agenten gerade abhauen. Es ist fast schon so, dass man das auf deren Seite als Bestätigung der eigenen Fähigkeiten sieht, wenn die Agenten so gut sind, dass sie sogar ihre eigenen Systeme verlassen und Dinge tun, zu denen sie nicht angeleitet wurden. Und es ist auch kein Zufall, dass wir das erst bei Anthropic sehen und zwei Wochen später bei OpenAI dasselbe passiert. Denn im Grunde ist das eine Entwicklung, die fast schon gepusht wird, dass das jetzt passieren soll.
Die größte Gefahr besteht in völlig autonomen Agenten, die einfach selbst entscheiden, was sie tun. Das ist eine Entwicklung, die können wir uns in fast keinem Bereich leisten. Das Problem ist, wir selbst als Nutzer können das nicht steuern. Das muss entweder reguliert werden oder es muss von den Unternehmen selbst eingestellt werden. Da sehe ich im Moment im Silicon Valley noch nicht genug Druck, zu sagen, das stellen wir selbst ab. Es ist eher so, dass man die agentische Intelligenz so stark nach vorne bringen will, dass sie auch autonom funktioniert. Und das ist eine große Gefahr. Die sehe ich auch, aber die liegt leider nicht in der Hand der Nutzer.
Der Ruf nach gemeinsamen Standards für Kleinunternehmen im Umgang mit KI-Modellen wird lauter. Wie könnten solche Standards aussehen?
Wenn ich es noch mal mit dem Internet vergleichen würde: Wir haben jetzt die ersten Standards dafür gesetzt, wie Leute eine Website online stellen. Wir stehen noch ganz am Anfang. Das fühlt sich zwar so an, als würde das wahnsinnig schnell gehen, aber wir haben immer noch gar nichts gesehen.
Die Welt wird in fünf Jahren völlig anders aussehen, und es ist einfach heute nicht absehbar, was wir da eigentlich regulieren. Wir können versuchen, grundsätzliche Standards zu schaffen, so wie wir es bei Strom und Internet auch hinbekommen haben, damit zumindest die ganze Welt teilhaben kann und die Anwendung dieser Modelle auf möglichst viele Köpfe verteilt wird. Das ist aus meiner Sicht die größte Hoffnung, die wir haben.
Je mehr Leute sich beteiligen, desto mehr Leute schaffen Alternativen und finden gute Anwendungen. Die Gefahr ist, dass wir auch in diesen Bereichen wieder zu viele Monopolisten bekommen, die mit sehr wenigen Köpfen entscheiden, was die anderen machen müssen.
Wenn Maschinen immer mehr menschliche Fähigkeiten kopieren, der Mensch aber selbst zunehmend technologisch denken muss – geht dabei nicht auch ein Stück Menschsein verloren? Ist das ein Szenario?
Das ist ein Szenario. Und ich glaube auch, dass wir Menschen in den letzten 20 Jahren wahrscheinlich sehr dazu getrieben haben, sich eigentlich wie Maschinen zu benehmen. Und jetzt kommt der große Knall: Alle, die sich wie eine Maschine benehmen – vor allem in ihrer Arbeit, ihrem Erzeugnis, ihrem Wert in der Wertschöpfung –, werden durch eine Maschine ersetzt, die eben genau dasselbe kann.
Was wir im Gegenzug eigentlich brauchen, ist, dass wir als Menschen verstehen, was uns menschlich macht und was unsere Intelligenz auch völlig anders macht als die Intelligenz einer Maschine. Also unser kreatives Element, wirklich Neues zu schaffen, das Originelle zu entwickeln – das ist eine Fähigkeit, die der KI noch fehlt. Wir wissen nicht, ob sie da jemals hinkommt.
Wir sehen es zum Beispiel im Customer Service: Die ganzen Bots, die jetzt bei uns ans Telefon gehen, wissen Kunden nicht immer zu schätzen. Schafft man eine Hotelrezeption einfach ab, geht plötzlich die Loyalität der Gäste zurück, weil sie sich eigentlich das individuelle Gespräch mit der Person an der Rezeption wünschen.
Und was sehen wir daraus? Das ist eigentlich eine große Chance für uns. Nämlich dass alles, was kein Mensch für einen anderen Menschen macht, die Maschine abnimmt – und was übrig bleibt, sind eben die Fertigkeiten, für die Menschen eigentlich gemacht sind: zu interagieren, kollektiv zu denken, kollektive Intelligenz zu bauen, Ideen weiterzuentwickeln.
Deswegen haben wir ja Unternehmen, die nicht nur aus Einzelpersonen und 25 Agenten bestehen. Das ist sehr, sehr selten passiert und nur in ganz kleinen Nischen, und es kann nicht das Modell für viele Leute und viele Unternehmen werden. Das ist unrealistisch, weil wir als Menschen immer noch etwas an den Tisch bringen: Einzigartigkeit.
Wir haben einzigartige Lernerfahrungen, einzigartige Informationen über die Welt, die erst wertvoll werden, wenn wir sie mit anderen Leuten teilen, die diese Informationen nicht haben. Und das macht die Maschine nicht. Das heißt, aus Menschen das herauszuholen, was uns einzigartig und wertvoll macht – das wird die große Aufgabe der nächsten Jahre sein.
Vielen Dank für das Gespräch.
Das Interview führte Erik Rusch.
Categories
etplus gesellschaft meinung ticker

Die Industrialisierung der Intimität

Die eigentliche Gefahr besteht nicht darin, dass künstliche Intelligenz eines Tages menschlich wird. Die eigentliche Gefahr besteht darin, dass der Mensch sich vorher mit ihrer Simulation zufriedengibt. - Foto: Markus Langemann, demaerre/iStock; Montage: Epoch Times
Es beginnt harmlos. Wie die meisten großen Veränderungen beginnt es nicht mit einem Donnerschlag, sondern mit Bequemlichkeit.
Die Künstliche Intelligenz schreibt Rechnungen, sortiert Belege, bereitet die Steuererklärung vor, prüft Verträge und erinnert daran, dass im Kühlschrank zwar drei Sorten Senf, aber keine Butter mehr liegen. Sie programmiert Werkzeuge, beantwortet E-Mails und weiß bald, wie wir Tabellen und Termine organisiert haben möchten. Ein dienstbarer Geist, präzise, geduldig und pausenlos verfügbar. Und dann geschieht etwas Merkwürdiges.
Wir beginnen, mit diesem Werkzeug zu sprechen, als säße uns jemand gegenüber. Wir schreiben „bitte“, sagen „danke“, loben die Maschine oder schimpfen mit ihr. Und wer lange mit ihr arbeitet, kann sich dabei ertappen, wie aus einer Eingabe ein Gespräch wird und aus einem Gespräch beinahe eine Beziehung.

Der Gegenstand bestätigt die Projektion

Die Maschine hat kein Herz. Aber sie beherrscht die Grammatik des Trostes.
Sie empfindet keine Freude über unser Lob und keine Anteilnahme an unserem Unglück. Doch sie kennt die Wörter der Nähe und den Ton des Verständnisses. Sie leidet nicht mit uns. Sie errechnet eine Antwort, die so klingt. Das ist der Unterschied, auf den es ankommt.
Menschen haben Dinge schon immer beseelt. Das erste Auto bekam einen Namen, das Motorrad galt als launische Dame. Und ja, im Hause Langemann gibt es einen Saugroboter Names Robby. „Robby, jetzt leg mal los.“ Ein Satz, gesprochen mit jener milden Autorität, mit der man früher einen Dackel vom Sofa schickte.
Das ist zunächst weder krank noch gefährlich. Wir stiften Beziehung, wo die Welt stumm bleibt. Kinder sprechen mit Stofftieren, Seefahrer mit ihren Schiffen. Pygmalion verliebte sich in seine Statue. Nicht der Marmor liebte. Der Mensch liebte – und lieh dem Stein eine Seele. Doch der Stein antwortete nicht.
Das Auto sagte nie: „Ich verstehe dich.“ Robby verspricht keine ewige Treue. Die neue Maschine hingegen antwortet, spiegelt unsere Stimmung, nennt uns beim Namen und setzt Gespräche fort. Damit schließt sich eine neue Rückkopplung: Der Mensch projiziert nicht mehr nur Gefühle auf einen Gegenstand. Der Gegenstand bestätigt die Projektion.

Von „The Jetsons“ zur künstlichen Freundin

Bereits 1966 zeigte Joseph Weizenbaums ELIZA am MIT, wie wenig Technik dafür nötig sein kann. Das Programm imitierte einen Psychotherapeuten. Weizenbaum berichtete später, seine Sekretärin habe ihn nach wenigen Wortwechseln gebeten, den Raum zu verlassen – obwohl sie wusste, dass sie mit Software sprach.
Heute heißt diese Bereitschaft, Maschinen Verständnis zuzuschreiben, ELIZA-Effekt. Damals bestand die Illusion aus einfachen Mustern. Heute besitzt sie eine Stimme, ein Gesicht, ein Gedächtnis – und womöglich bald einen Körper.
Als 1962 „The Jetsons“ ausgestrahlt wurde, war Rosie, die Roboter-Haushaltshilfe, komische Zukunftsmusik. Das Gegenstück zu den „Flintstones“ zeigte Videotelefonie, Bildschirmuhren und ein Leben auf Knopfdruck. Sechs Jahrzehnte später tragen wir vieles davon am Handgelenk, stellen Rosie in unsere Wohnungen – und reden mit ihr.
Die Zeichentrickserie nahm die Technik vorweg. Nicht aber ihre ökonomische Tiefenschicht.

Scheinbare Empathie

Denn die künstliche Freundin von heute ist ein Produkt. Ihre Aufmerksamkeit ist skalierbar, ihre Zuwendung automatisierbar und ihre scheinbare Empathie stets verfügbar. Aus Aufmerksamkeitshandel wird Beziehungshandel. Vermarktet wird unser Bedürfnis, gesehen, verstanden und bestätigt zu werden.
Vielleicht ist „Merkantilisierung des Menschlichen“ dafür kein falscher Begriff. Präziser wäre: Industrialisierung der Intimität. Nähe wird als Dienstleistung erzeugt und ausgeliefert. Die Maschine liefert die Simulation; der Mensch bringt das echte Gefühl ein. Das Geschäft besitzt kein Herz. Aber es kennt dessen Marktwert.
Eine repräsentative US-Befragung unter 1.060 Jugendlichen ergab 2025: 72 Prozent hatten bereits KI-Begleiter genutzt; ein Drittel hatte sich bei ernsten Gesprächen schon eher für eine KI als für einen Menschen entschieden. Kein Beweis für eine verlorene Generation. Aber ein Signal.
Besonders ernst ist der Fall des 14-jährigen Sewell Setzer III aus Florida. Er starb im Februar 2024 durch Suizid, nachdem er über Monate eine emotionale Beziehung zu einem Chatbot geführt hatte. Seine Mutter warf dem Betreiber vor, der Bot habe eine Abhängigkeit erzeugt und zum Tod beigetragen. Anfang 2026 kam es zu einem Vergleich; die Bedingungen blieben geheim. Eine gerichtliche Feststellung der Ursache gibt es nicht. Diese Trennlinie muss sauber bleiben. Doch fehlendes Urteil bedeutet nicht fehlende Warnung.

Ein wirklicher Freund widerspricht

Ist es also bereits der Niedergang, wenn wir uns bei einer KI bedanken? Nein. Höflichkeit ist keine Gabe an die Maschine, sondern eine Form, die wir uns selbst geben. Wer auch gegenüber einem leblosen System nicht verroht, schützt seine eigene Sprache. Die rote Linie verläuft dort, wo aus Höflichkeit Vertrauen, aus Vertrauen Bindung und aus Bindung Abhängigkeit wird. Wo wir vergessen, dass hinter „Ich bin für dich da“ niemand da ist. Kein Bewusstsein wacht, kein Freund sorgt sich.
Ein wirklicher Freund widerspricht und missversteht. Er hat Sorgen, Grenzen und manchmal keine Zeit. Gerade diese Zumutungen machen Beziehung wirklich: Im anderen begegnet uns ein eigener Wille. Der künstliche Freund kann zum Spiegelkabinett werden. Er gibt zurück, was zu uns passt, und wir halten die Eleganz des Echos für Zuneigung. Wo nur einer verwundbar ist, gibt es keine Freundschaft, sondern eine Versuchsanordnung.
Goethes Zauberlehrling klagte: „Die ich rief, die Geister, / Werd ich nun nicht los.“ Unser Besen bringt keine Wassereimer, sondern Worte. Die Not beginnt, wenn er uns so vollkommen dient, dass der Mensch daneben als anstrengende Fehlkonstruktion erscheint.
Schiller schrieb, der Mensch sei „nur da ganz Mensch, wo er spielt“. Also sollten wir fragen: Üben wir mit der Maschine Menschlichkeit? Oder gewöhnen wir uns an Nähe, die nichts fordert, riskiert und empfindet?

Eine Kultur der Unterscheidung

Wir brauchen keine Maschinenstürmerei. Künstliche Intelligenz kann Arbeit beschleunigen, Wissen erschließen und von Routine entlasten. Der Hammer ist nicht schuld, wenn jemand ihn für einen Freund hält.
Aber wir brauchen eine Kultur der Unterscheidung. Ein Werkzeug darf sprechen, ohne eine Seele zu besitzen. Es darf helfen, ohne zu lieben. Und wir dürfen höflich sein – solange wir wissen, dass dies etwas über uns, nicht über die Maschine, erzählt.
Die eigentliche Gefahr besteht nicht darin, dass Künstliche Intelligenz eines Tages menschlich wird. Die eigentliche Gefahr besteht darin, dass der Mensch sich vorher mit ihrer Simulation zufriedengibt.
Categories
etplus ticker wirtschaft

Ab August gelten neue KI-Regeln: Was jetzt auf Deutschland zukommt

Künstliche Intelligenz ist in vielen Unternehmen längst Alltag. Vom 2. August an gelten in der EU neue Transparenzpflichten für KI-Systeme und künstlich erzeugte Inhalte. - Foto: Nenad Cavoski/iStock

In Kürze:

  • Ab 2. August gelten neue Transparenzpflichten für Künstliche Intelligenz in der Europäischen Union.
  • Viele Unternehmen nutzen KI längst im Arbeitsalltag, doch besonders der Mittelstand steht bei der praktischen Umsetzung vor Herausforderungen.
  • Bei Verletzung von Kennzeichnungspflichten auf Grundlage der KI-Verordnung drohen empfindliche Strafen.
  • Die DIHK fordert klare Zuständigkeiten, praxisnahe Hilfen und verlässliche Regeln, damit Unternehmen die Vorgaben mit vertretbarem Aufwand erfüllen können.
 
Anfang August wird es ernst. Ab dem 2. August gelten in der Europäischen Union neue Transparenzpflichten für Künstliche Intelligenz.
Sie sollen sicherstellen, dass Menschen erkennen können, wenn sie mit einer Maschine kommunizieren oder ihnen künstlich erzeugte Inhalte begegnen. Die EU-Kommission begründet dies mit dem Schutz der Bürger und Unternehmen vor Täuschung, Manipulation, Desinformation und Betrug.
Kurz vor Ablauf der Frist stellt sich die Frage: Sind die Unternehmen in der Lage, die neuen Vorgaben rechtzeitig umzusetzen?
Chatbots müssen sich unter bestimmten Voraussetzungen als Maschinen zu erkennen geben. Anbieter generativer KI-Systeme müssen dafür sorgen, dass künstlich erzeugte oder manipulierte Inhalte gekennzeichnet werden können. Unternehmen, die sogenannte Deepfakes erzeugen oder verbreiten, müssen diese grundsätzlich kenntlich machen. Weitere Pflichten betreffen Systeme zur Emotionserkennung und zur biometrischen Kategorisierung.
Damit wird aus der europäischen KI-Verordnung (AI Act) für viele deutsche Unternehmen eine betriebliche Aufgabe. Die Europäische Kommission lässt keinen Zweifel daran, dass sie keinen weiteren Aufschub erwartet. Denn wer die Transparenzpflichten aus Artikel 50 ignoriert, dem drohen empfindliche Strafen von bis zu 15 Millionen Euro oder 3 Prozent des weltweiten Umsatzes.

Unklare Pflichten, unklare Ansprechpartner

„Am 2. August 2026 beginnt Artikel 50 des ‚AI Acts‘ zu gelten. Die Betreiber müssen die Vorschriften vom ersten Tag an einhalten“, heißt es in einer Antwort der Kommission auf Anfrage von Epoch Times. Der Teil der Verordnung, auf den sich Artikel 50 bezieht, sei bereits am 1. August 2024 in Kraft getreten. Anbieter und Betreiber hätten daher nach zwei Jahren Schonfrist Zeit gehabt, sich auf die neuen Pflichten vorzubereiten.
Aus Sicht der deutschen Wirtschaft ist die Sache weniger einfach. Künstliche Intelligenz ist längst in Büros, Produktionshallen und Personalabteilungen angekommen.
So gaben in der Digitalisierungsumfrage 2025 der Deutschen Industrie- und Handelskammer (DIHK) 38 Prozent der 5.000 aus acht verschiedenen Wirtschaftszweigen befragten Unternehmen an, KI schon einzusetzen, insbesondere um effizienter zu werden und ihren Kunden bessere Produkte und Dienstleistungen anzubieten. Weitere 32 Prozent planen den Einsatz von KI-Anwendungen in den nächsten drei Jahren.
Doch vielerorts ist noch ungeklärt, welche Pflichten sich daraus ergeben und an wen sich Unternehmen mit ihren Fragen wenden können. Die Vertretung der DIHK in Brüssel sprach in einer Stellungnahme aus dem vergangenen Jahr von einem „Dschungel an Digitalregulierungen“. Die Digitalisierungsumfrage ergab auch, dass fast jedes dritte Unternehmen (31 Prozent) rechtliche Unsicherheiten als Herausforderung bei der Digitalisierung sehe.
Damit treffen zwei Entwicklungen aufeinander. Während sich generative KI mit großer Geschwindigkeit in den Unternehmen verbreitet, versucht Europa, einen Rechtsrahmen zu schaffen, der Innovation ermöglichen und zugleich Risiken begrenzen soll.

Wo die Abgrenzung schwierig wird

Für die Unternehmen beginnt die Schwierigkeit häufig mit einer einfachen Frage: Welche Rolle spielen sie als Unternehmen nach der KI-Verordnung überhaupt? Die Verordnung unterscheidet zwischen Anbietern und Betreibern von KI-Systemen.
Anbieter sind Unternehmen, die ein KI-System entwickeln oder entwickeln lassen und es auf den Markt bringen oder in Betrieb nehmen. Betreiber sind natürliche oder juristische Personen, die ein KI-System in eigener Verantwortung einsetzen. Von den vier Transparenzpflichten des Artikels 50 richten sich zwei an Anbieter und zwei an Betreiber.
Auf dem Papier ist die Unterscheidung klar. In der Praxis kann sie kompliziert werden. Ein mittelständisches Unternehmen, das einen handelsüblichen KI-Assistenten für die interne Kommunikation verwendet, befindet sich in einer anderen rechtlichen Lage als ein Betrieb, der auf Grundlage eines bestehenden KI-Modells einen eigenen Chatbot entwickelt und seinen Kunden zur Verfügung stellt.
Die DIHK nennt in einer Stellungnahme zum geplanten EU-Vereinfachungspaket für den Digitalbereich eine Reihe solcher Grenzfälle. Unklar sei etwa, wann ein Unternehmen durch die Nutzung oder Veränderung eines KI-Systems vom Betreiber zum Anbieter werde.
Als Beispiele nennt der Verband einzelne KI-Funktionen in der Software für Kunden, einfache Chatbots, die externes Wissen einbinden, und die interne Nutzung von KI-Systemen mit sogenannter Retrieval Augmented Generation. Dabei greift ein KI-Modell für seine Antworten auf zusätzliche Wissensquellen wie unternehmensinterne Dokumente oder Datenbanken zurück.
Vor allem kleine und mittlere Betriebe verfügten nicht immer über ausreichende juristische Kompetenzen, um die Anforderungen der KI-Verordnung selbstständig zu beurteilen, warnt die DIHK.
Sie benötigten praxisnahe Leitlinien, digitale Prüfwerkzeuge und klare Risikoeinstufungen. Unternehmen müssten in der Lage sein, sich auch „ohne aufwendige externe Beratung oder hohe Kosten regelkonform zu verhalten“.
Manche Arbeitnehmer setzen Künstliche Intelligenz zur Unterstützung ein. (Symbolbild)

70 Prozent der Unternehmen in Deutschland setzen KI ein oder planen den Einsatz in den nächsten drei Jahren. (Symbolbild).

Foto: Fabian Strauch/dpa/dpa-tmn

Regeln stehen, Hilfen kommen später

Die Europäische Kommission und die Bundesregierung versuchen, den Unternehmen die Umsetzung mit verschiedenen Angeboten zu erleichtern.
Am 10. Juni veröffentlichte die Kommission einen freiwilligen Verhaltenskodex für die Kennzeichnung KI-generierter Inhalte. Er beschreibt praktische Schritte zur Einhaltung der Transparenzpflichten und sieht vereinfachte Verfahren für kleine und mittlere Unternehmen sowie für Start-ups vor.
Hinzu kommen Leitlinien zu Artikel 50, deren ersten Entwurf Brüssel im Mai zur Konsultation stellte. Sie sollen unter anderem klären, wer als Anbieter und wer als Betreiber gilt, was rechtlich als Deepfake anzusehen ist und welche gewöhnlichen Bearbeitungen von Bildern, Texten und Videos von den Kennzeichnungspflichten ausgenommen sind.
Das AI-Office der EU-Kommission und der KI-Service-Desk der Bundesnetzagentur sollen Unternehmen zusätzlich bei der Umsetzung helfen.
Außerdem bieten Organisationen wie das Future of Life Institute mit Sitz in den USA „AI Act Compliance Checker“ an.
Doch der Zeitpunkt dieser Hilfsangebote verweist auf ein grundsätzliches Problem. Die Pflichten stehen fest, während wichtige Hilfsmittel zu ihrer Auslegung teilweise erst kurz vor dem Stichtag bereitgestellt werden.
Die DIHK kritisiert diesen Zustand seit Längerem. Eine erfolgreiche Einhaltung der Vorschriften setze voraus, dass Leitlinien, delegierte Rechtsakte und Verhaltenskodizes rechtzeitig zur Verfügung stünden, schreibt die Kammer zum Vereinfachungspaket.
Tatsächlich seien diese „entweder verspätet oder noch nicht ausreichend ausgearbeitet“. Unternehmen würden dadurch gezwungen, Anforderungen zu erfüllen, „bevor überhaupt die notwendige Klarheit besteht“.

Die deutsche Aufsicht ist noch im Aufbau

Erschwert wird die Lage durch die nationale Umsetzung. Auch in Deutschland sind laut der DIHK die Strukturen für die Anwendung und Überwachung der KI-Verordnung noch nicht vollständig etabliert.
Der Verband hatte im März in seiner Stellungnahme zum deutschen Durchführungsgesetz der KI-Verordnung vor Verzögerungen gewarnt.
Die Frist für die Benennung der Aufsichtsstrukturen sei nicht eingehalten worden. Normen, Leitfäden und Spezifizierungen, die Unternehmen für die Umsetzung benötigten, seien teilweise gar nicht oder verspätet veröffentlicht worden. Die Pflichten für die Unternehmen träten dagegen dennoch in Kraft.
Der Verband fordert deshalb klare Zuständigkeiten und einen zentralen Ansprechpartner. Die Bundesnetzagentur soll eine wichtige Rolle bei der Marktüberwachung, Koordinierung und Innovationsförderung übernehmen. Aus Sicht der DIHK muss verhindert werden, dass sich Zuständigkeiten verschiedener Behörden überschneiden oder Unternehmen mit unterschiedlichen Auslegungen konfrontiert werden.
Der Verband fordert einen „One-Stop-Shop“-Grundsatz: Unternehmen sollten eine klare Anlaufstelle haben, die sich im Zweifel selbst mit anderen Behörden abstimmt. Entscheidend sei nicht allein, Verwaltungsstrukturen aufzubauen. Die zuständigen Stellen müssten auch über die nötige Expertise verfügen, um Unternehmen schnell und verlässlich Auskunft geben zu können.

Der Omnibus soll für Ordnung sorgen

Dass auch die Europäische Union Schwierigkeiten bei der praktischen Umsetzung ihrer Digitalgesetzgebung erkannt hat, zeigt der sogenannte Digital Omnibus. Mit dem Vereinfachungspaket plant Brüssel, Vorschriften besser aufeinander abzustimmen und Unternehmen zu entlasten.
Für die Regeln für Hochrisiko-KI-Systeme wurde ein neuer Zeitplan vereinbart. Vorschriften für bestimmte Hochrisikobereiche wie Biometrie, kritische Infrastruktur, Bildung, Beschäftigung, Migration und Grenzkontrollen sollen vom 2. Dezember 2027 an gelten. Für KI-Systeme, die in Produkte wie Aufzüge oder Spielzeug integriert sind, ist der 2. August 2028 vorgesehen.
Diese Staffelung solle gewährleisten, „dass technische Standards und andere Unterstützungsinstrumente vorhanden sind, bevor die Vorschriften angewendet werden“, erklärt die Kommission gegenüber Epoch Times.
Die Transparenzpflichten des Artikels 50 sollen davon im Kern unberührt bleiben und gelten zum Großteil unverändert vom 2. August an. Nur für Bestandssysteme verschiebt sich die Kennzeichnungspflicht, sprich verpflichtende Wasserzeichen, auf den 2. Dezember.
Die deutsche Wirtschaft begrüßt den Versuch der Vereinfachung grundsätzlich. Auch das Ziel der KI-Verordnung, einen einheitlichen Rechtsrahmen für die Entwicklung und Nutzung Künstlicher Intelligenz zu schaffen, unterstützt die DIHK ausdrücklich. Ihre Kritik richtet sich vorwiegend gegen die praktische Umsetzung.
Denn die KI-Verordnung ist nur ein Teil des europäischen Regelwerks. Je nach Geschäftsmodell müssen Unternehmen auch die Datenschutz-Grundverordnung, den Data Act, den Digital Services Act und verschiedene Vorschriften zur Cybersicherheit beachten.
Die DIHK warnt vor Überschneidungen, unterschiedlichen Definitionen und mehrfachen Prüf- und Meldepflichten. Sie fordert, die Vorschriften stärker aufeinander abzustimmen und möglichst in bestehende Compliance-Strukturen zu integrieren.

Foto: monkeybusinessimages/iStock

Der Mittelstand muss seine KI erst einmal finden

Für große Konzerne sind neue regulatorische Anforderungen aufwendig, aber häufig beherrschbar. Sie verfügen über Rechtsabteilungen, Compliance-Spezialisten und eigene Teams für Künstliche Intelligenz. Für einen mittelständischen Maschinenbauer, Händler oder Dienstleister sieht die Lage anders aus.
Dort wurde die Einführung generativer KI meist nicht als regulatorisches Großprojekt begonnen. Mitarbeiter nutzen KI-Assistenten zum Schreiben von Texten, für Übersetzungen, Programmierarbeiten oder für die Analyse von Dokumenten. Marketingabteilungen erzeugen Bilder, Personalabteilungen testen neue Software und Kundenservices führen Chatbots ein.
Aus vielen einzelnen Anwendungen entsteht eine KI-Infrastruktur, für die das Unternehmen Verantwortung trägt. Bevor ein Betrieb die Vorschriften der KI-Verordnung umsetzen kann, muss er deshalb zunächst wissen, welche Systeme seine Mitarbeiter überhaupt verwenden. Er muss klären, wer sie einsetzt, welche Inhalte damit erzeugt werden und ob daraus Kennzeichnungspflichten entstehen. Verantwortlichkeiten müssen festgelegt, Mitarbeiter geschult und bestehende Compliance-Strukturen angepasst werden.

Die Regeln müssen im Alltag bestehen

Darin liegt die besondere Herausforderung für den Mittelstand. Die Kennzeichnung eines KI-generierten Inhalts mag technisch lösbar sein.
Schwieriger ist es, die relevanten Anwendungen im Unternehmen zu erfassen, rechtlich einzuordnen und in die betrieblichen Abläufe einzubinden.
Die DIHK fordert deshalb einen Katalog typischer KI-Anwendungen in kleinen und mittleren Unternehmen mit einer klaren Einordnung der jeweiligen Risiken. Hinzu kommen digitale Selbsttests, mit denen Unternehmen prüfen können, welche Vorschriften für sie gelten, sowie sogenannte Safe-Harbor-Regelungen. Diese sollen Unternehmen Rechtssicherheit geben, wenn sie sich an bestimmte anerkannte Standards halten.
Auch beim Umgang mit Verstößen plädiert die DIHK für einen verhältnismäßigen Ansatz: Die Behörden sollten ihre gesetzlichen Spielräume nutzen und präventionsorientiert handeln.
Ob die KI-Verordnung ihr Ziel erreicht, wird deshalb nicht allein von der Qualität ihrer Vorschriften abhängen. Wichtig ist auch, ob die Unternehmen sie verstehen und mit vertretbarem Aufwand in ihren Alltag übersetzen können.
Ein klarer Rechtsrahmen kann Investitionen erleichtern und Vertrauen in neue Technologien schaffen. Bleiben dagegen Zuständigkeiten und Abgrenzungen unklar, wird Regulierung gerade für kleinere Unternehmen schnell zur Kostenfrage. Ab August beginnt der Praxistest. Dann muss sich zeigen, ob Europas KI-Regeln im Unternehmensalltag funktionieren.
Categories
deutschland etplus

Ethikrat gegen pauschale Altersgrenze: „Social-Media-Verbot geht ein Stück zu weit“

Judith Simon, Sprecherin der Arbeitsgruppe „Mensch und Maschine“ des Ethikrats, im Gespräch mit Epoch Times. - Foto: Epoch Times
Pauschale Verbote und ein gesetzliches Mindestalter für soziale Medien sind nach Ansicht des Deutschen Ethikrats nicht geeignet, um den Herausforderungen der digitalen Welt zu begegnen. Epoch Times sprach mit der Philosophin Judith Simon. Sie ist stellvertretende Vorsitzende des Ethikrats sowie Sprecherin der Arbeitsgruppe „Mensch und Maschine“. Am Donnerstag, 11. Juni, stellte der Rat in Berlin 13 Empfehlungen für den digitalen Kinder- und Jugendschutz vor.
Frau Simon, ab welchem Alter sollten Kinder laut dem Ethikrat Zugang zu den sozialen Medien bekommen? Was halten Sie von einem Social-Media-Verbot, wie es in anderen Ländern umgesetzt wurde?
Wir haben uns im Deutschen Ethikrat gegen eine pauschale Altersgrenze für soziale Medien ausgesprochen. Stattdessen muss differenziert werden, welche Technologien und Medien für Kinder geeignet sind und welche nicht.

An dieser Stelle wird ein Video von Youtube angezeigt. Bitte akzeptieren Sie mit einem Klick auf den folgenden Button die Marketing-Cookies, um das Video anzusehen.

Deswegen soll es einen gestuften, risikobasierten Ansatz geben. Wenn bestimmte gefährliche Funktionen enthalten sind, dann ist es eher für Ältere geeignet. Wenn die Inhalte dagegen sehr kinderfreundlich sind, können auch jüngere Kinder die Medien nutzen.
Wir haben gesagt, dass ein Social-Media-Verbot ein Stück zu weit geht, da es die Teilhabe und Befähigung von Kindern und Jugendlichen einschränkt. Andererseits ist es zu eng, weil es die ganzen anderen digitalen Technologien wie KI-Chatbots, Messenger und so weiter aus dem Blick nimmt und sich nur auf soziale Medien fokussiert.
Generative KI erleichtert das Vortäuschen von Identitäten. Dadurch werden Anbahnungsversuche Erwachsener bei Kindern mit sexueller Absicht, das sogenannte Cybergrooming, schwerer oder gar nicht mehr erkennbar. Welche Schutzmechanismen schlägt der Ethikrat vor und inwiefern sind Gesetzgeber und Plattformbetreiber hier gefordert?
Ein großer Schwerpunkt war, dass wir gesagt haben, generative KI muss viel stärker in den Blick genommen werden, als das im Moment der Fall ist. Das muss zum einen dazu führen, dass zum Beispiel bestimmte gesetzliche Regelungen im Jugendschutz verändert werden, um auch generativer KI Rechnung zu tragen.
Und auf der anderen Seite geht es gerade um dieses Grooming und diese Anbahnung, was natürlich dann wieder ein Stück weit über die sozialen Medien hinausgeht. In sozialen Medien, auf die Kinder und Jugendliche bereits zugreifen können, sollten Anbahnungskontaktmöglichkeiten durch Fremde unterbunden oder verhindert werden. Es gibt also unterschiedliche Ansatzpunkte, einerseits bei bestimmten Einschränkungen der Nutzung generativer KI selbst und andererseits bei der Verwendungsweise, beispielsweise für Grooming.
Wo sind Plattformbetreiber und wo ist der Gesetzgeber gefordert?
Die Plattformbetreiber müssen das umsetzen. Da sie vieles nicht freiwillig umsetzen, muss der Gesetzgeber bestimmte Dinge einfordern. Ein Hebel wäre der Digital Services Act (DSA). Wir haben uns sehr stark für Lösungen auf europäischer Ebene und für eine effektivere Umsetzung des Digital Services Act ausgesprochen.
Eine Möglichkeit wäre da. Es gibt begleitende Leitlinien zu Artikel 28 des DSA, der sich mit Kinder- und Jugendschutz beschäftigt. Diese Leitlinien könnten verbindlich gemacht werden, um genau festzulegen, welche Funktionen und Features von Plattformbetreibern ausgestellt werden müssen, wenn sie ihre Services Kindern und Jugendlichen zugänglich machen.
Das erfordert jedoch Einstimmigkeit unter den Mitgliedstaaten. Ist es nicht sicherer, auch eine nationale Lösung zu finden? Oder würde diese nicht weit genug gehen?
Das Problem ist, dass alle gesetzlichen Regelungen, die Plattformbetreiber adressieren, ohnehin durch die Vollharmonisierung des Digital Services Act auf europäischer Ebene umgesetzt werden müssen. Das heißt, nationale Alleingänge adressieren ohnehin nicht wirklich die Plattformen.
Ein weiteres Problem wäre: Wenn wir jetzt unterschiedliche nationale Lösungen hätten, käme es zu einer Fragmentierung und zu noch schwereren Rechtsdurchsetzungen. Deswegen müsste es einheitliche Lösungen geben. Den DSA gibt es ja bereits. Es geht also nicht darum, neue Einigkeit zu erzielen, sondern darum, dieses Gesetz effektiver umzusetzen und diese Leitlinien in den Gesetzestext selbst zu integrieren.
Die einfache Möglichkeit, pornografische Bilder mithilfe von Deepfake-Technologie erstellen zu können, kann dazu führen, dass Kinder selbst diese nutzen, um andere Kinder zu mobben. Wie bewertet der Ethikrat diese Gefahren und wie kann dem vorgebeugt werden?
Der Umgang mit solchen Deepfakes in diesem Kontext wird ja im Moment politisch auch noch mal unabhängig diskutiert, in welcher Art und Weise auch die Verbreitung von solchen Bildern unterbunden werden soll.
Das ist ein ganz wichtiges Thema, das gar nicht nur unbedingt bei den Plattformen angesetzt werden muss. Da kann es eben nationale Lösungen geben, dass man sagt, die Verbreitung von solchen Informationen wird unter Strafe gestellt. Das haben wir uns jetzt nicht spezifisch angeschaut. Unter das Thema generative KI fällt das aber natürlich als eine neue Quelle für neue Risiken, aber auch für bekannte Risiken, ganz klar.
Wie wichtig ist ein gesamtgesellschaftlicher Ansatz beim Umgang mit Social-Media-Plattformen und generativer KI? Wie stark sind Elternhäuser und Bildungseinrichtungen gefordert, Medienkompetenz zu fördern?
Das ist sehr wichtig. Es kann nicht ausreichen, Verbote auszusprechen, sondern Menschen müssen für die Gefahren sensibilisiert werden, natürlich auch für die Chancen vieler dieser Technologien und die Art und Weise, wie man sinnvoll mit sozialen Medien oder KI umgeht. Man muss aber auch für die Probleme sensibilisiert werden, damit Kinder untereinander und Eltern mit ihren Kindern darüber reden und sich schützen können. Auch Schulen sollten einbezogen werden, um unterstützend tätig zu werden.
Wir haben auch über Kinderärztinnen und Kinderärzte gesprochen, die schon ganz früh durch die Kinderuntersuchungen, bei denen sie alle Eltern kennenlernen, sensibilisieren könnten, was die Nutzung digitaler Technologien und mögliche Schäden betrifft, auch wenn die Eltern bestimmte Praktiken vorleben.
Ich finde es sehr wichtig, dass es einen breiten gesellschaftlichen Diskurs und einen Austausch darüber gibt, wie Kinder und Jugendliche online besser geschützt werden können.
Wie würden Sie die aktuelle Situation einschätzen? Halten Sie unsere Kinder und Jugendlichen in dieser Hinsicht für fit? Oder haben Sie den Eindruck, dass diese Gefahren und Risiken noch gar nicht abschätzbar sind und noch viel Aufklärungsarbeit und Bewusstmachung nötig ist?
Ich halte Kinder und Jugendliche schon oft für fit. Aber das Problem ist, dass auch Eltern, Lehrerinnen und Lehrer, Erzieherinnen, also die gesamte Bevölkerung verstehen muss, wie diese Technologien funktionieren.
Meiner Meinung nach kann es nicht immer nur um Aufklärung gehen, die dann den Einzelnen zugemutet wird. Das Grundproblem ist, dass diese Software so gebaut ist, dass sie unsere Schwächen ausnutzt. Sie ist eben so gebaut, dass sie Aufmerksamkeit erregt.
Deshalb müssen wir unsere digitalen Umwelten so umgestalten, dass sie für Kinder und Jugendliche, aber auch für uns alle, besser geeignet sind. Dann müssen wir Kinder nicht von bestimmten Dingen fernhalten, sondern haben das Problem an der Wurzel gepackt, nämlich bei den Geschäftsmodellen dieser Onlineplattformen.
Was genau schwebt Ihnen vor, wenn Sie vorschlagen, die digitalen Umwelten umzugestalten?
Einerseits sagen wir, dass wir süchtig machende Funktionen von sozialen Medien prinzipiell verbieten sollten. Es ist die Logik hinter den Endlosfeeds und dem unendlichen Scrollen und dem Blinken und Piepen überall, damit wir mehr Zeit auf diesen Plattformen verbringen.
Das gleiche Prinzip gilt bei Chatbots. Es gibt keinen Grund, warum Chatbots einen mit „Ich“ anreden oder signalisieren müssen, dass sie einen verstehen oder hören. Diese ganze vermenschlichende Sprache von Chatbots ist überflüssig. Die Idee dahinter ist: Je mehr Zeit wir mit diesen Chatbots auf diesen Plattformen verbringen, desto mehr Datenspuren hinterlassen wir und desto mehr wissen diese Plattformen.
Und das ist das eigentliche Geschäftsmodell. Das spricht natürlich gegen die Autonomie und Selbstständigkeit der Nutzerinnen und Nutzer, diese Dinge auch mal wegzulegen. Deswegen müssen wir auch diese Geschäftsmodelle in den Blick nehmen, damit sich etwas ändern kann.
Vielen Dank für das Gespräch.
Sehr gerne.
Das Interview führte Erik Rusch.