Die Versandapotheke DocMorris macht ihr Geschäft weitgehend in Deutschland. (Archivbild) - Foto: Peter Kneffel/dpa
Im Dauerclinch mit alteingesessenen Apothekern hat der Online-Konkurrent DocMorris einen Rückschlag hinnehmen müssen. Wie nach Berichten der „Pharmazeutischen Zeitung“ (PZ) und anderer Medien bekannt wurde, wurde bei DocMorris auf Drängen der Apothekerkammer Nordrhein inzwischen Geld in den Niederlanden gepfändet.
Schon vor Jahren hatte DocMorris Gerichtsverfahren in Stuttgart verloren, in denen es um die Art und Weise von Werbung samt Rabatten ging.
Trotz der Gerichtsniederlagen machte DocMorris nach Ansicht der Kläger weiter, woraufhin die Kläger Ordnungsgelder in Deutschland beantragten – das aber verlief im Sande. Daraufhin setzten die deutschen Apotheker in einem Gerichtsverfahren in den Niederlanden durch, dass dort gepfändet wurde. In erster Instanz waren die deutschen Apotheker erfolgreich.
Kein Nachgeben bei DocMorris
DocMorris teilte auf Anfrage mit, es handele sich „lediglich um die Durchsetzung administrativer Ordnungsgelder in Höhe eines hohen fünfstelligen bis geringen sechsstelligen Euro-Betrages“. Der isolierte Rechtsstreit aus dem Jahr 2020 habe keine strategische Relevanz. „Dies hat keinerlei Auswirkungen auf die operative Geschäftstätigkeit oder die finanzielle Stabilität von DocMorris.“ Man habe dennoch entschieden, Berufung einzulegen, um die Rechtslage in dieser Angelegenheit abschließend klären zu lassen.
DocMorris sitzt zwar unweit von Aachen kurz hinter der Grenze auf der niederländischen Seite, sein Geschäft macht die Firma aber weitgehend in Deutschland. Dabei profitiert das Unternehmen vom Binnenmarkt, der grenzüberschreitenden Handel ohne Nachteile für ein ausländisches Unternehmen ermöglicht. Als Medikamente verkaufende Kapitalgesellschaft darf DocMorris seinen Sitz nicht in Deutschland haben, dieses Geschäft ist hierzulande Apothekern vorbehalten.
Den alteingesessenen Apothekern, die Kosten für ihre Vor-Ort-Apotheken stemmen müssen, ist der aufstrebende Online-Konkurrent ein Dorn im Auge. Sie monieren unterschiedliche Wettbewerbsbedingungen und warnen vor Schäden für die Vor-Ort-Versorgung, wenn die stationären Apotheken wegen der Online-Konkurrenz Einbußen haben. DocMorris wiederum argumentiert, dass ein Anbieter aus dem EU-Ausland nicht europarechtswidrig benachteiligt werden dürfe. (dpa/red)
Ausstellungsflächen und Technik im Apple Store im neu renovierten Einkaufszentrum „Battersea Power Station“ in London. - Foto: Nuria Gonzalez Sanchez/iStock
Angesichts der Ausbreitung eigenständig agierender KI-Agenten will Apple Nutzer seiner Mac-Computer stärker über Risiken informieren, bevor sie solcher Software einen weitreichenden Zugang zu ihren Daten geben können.
Einige Entwickler nutzten heutige Zugriffsmöglichkeiten auf eine Art, die alle Daten auf den Geräten preisgeben könne, warnte der Konzern. Deswegen wolle man sicherstellen, dass alle sich der Gefahren bewusst seien, bevor sie einem Datenzugang für Künstliche Intelligenz zustimmten.
Die sogenannten KI-Agenten sollen autonom Aufgaben für ihre Nutzer erfüllen. Von KI-Firmen heißt es, dass ihre neuen Agenten inzwischen nahezu alles erledigen könnten, was man am Computer mache.
Um im Alltag wirklich nützlich zu sein, sind sie auf tiefgreifenden Zugang zu deren Informationen angewiesen – E-Mails, Chats, Kalender, eventuell sogar Bankkonten.
Apples Macs haben eine Zugangsoption mit dem Namen „Full Disk Access“, die weitreichenden Zugriff auf Daten auf der Festplatte gewährt. Laut Apple wurde sie eingeführt, damit Backup-Programme, die Sicherungskopien der Computer anlegen, reibungslos funktionieren.
Nun griffen aber auch Entwickler von KI-Software darauf zurück. Mit wachsenden Fähigkeiten und Selbstständigkeit von KI-Agenten würden auch damit verbundene Risiken steigen, hieß es von Apple.
Auf iPhones und iPad-Tablets sind die Möglichkeiten zum Datenzugang deutlich stärker eingeschränkt als auf Macs.
Apple versucht zugleich, seine Assistenzsoftware Siri mit KI-Funktionen nützlicher zu machen, die von ihrem Zugang zu Nutzerdaten auf den Geräten profitieren sollen.
Der Konzern betont, die Daten würden dabei nur auf den Geräten verarbeitet oder mit Komplett-Verschlüsselung übertragen, so dass auch Apple keinen Zugriff darauf habe.
Die neue KI-Siri ist zunächst nur in englischer Sprache verfügbar – und in der EU nur auf Mac-Computern. Bei iPhones und iPads hat Apple nach den Kriterien des Digitalgesetzes DMA (Digital Markets Act) so viel Marktmacht, dass gleicher Datenzugang für Konkurrenten wie für Apples eigene Systeme gefordert wird.
Apple lehnt das unter Verweis auf die Datensicherheit ab und zog es vor, die Funktionen auf diesen Geräten in der Europäischen Union zunächst nicht einzuführen. (dpa/red)
Ein Schwerpunkt der Aktion lag in Nordrhein-Westfalen. - Foto: Christoph Reichwein/dpa
Wegen des Verdachts auf millionenfachen Betrug mit online verkauften Handys führen Fahnder eine europaweit angelegte Razzia mit rund 160 Durchsuchungen in 19 Ländern durch, auch in Deutschland.
Verbrauchern in der EU entstand schätzungsweise ein Schaden von mindestens 300 Millionen Euro, wie die Europäische Staatsanwaltschaft (EUStA) in Luxemburg mitteilte. Es handelt sich demnach um mindestens eine Million verkaufte Handys.
Den Betroffenen seien aus gebrauchten Teilen zusammengesetzte Geräte über das Internet als Neuware verkauft worden. Der Schaden entspricht dem Unterschied zwischen dem gezahlten Preis und dem Wert der Handys.
Die Geschäftspraxis, die bis zuletzt weiterlief, soll laut Ermittlern so aussehen: In Hongkong und den VAE werden zunächst Mobiltelefone aus gebrauchten Bauteilen zusammengebaut. Dann werden die Geräte gereinigt und neu verpackt in die Niederlande verschickt. Von dort gelangen sie zu Lagern in Deutschland.
Auf Online-Marktplätzen können sie von Konsumenten in der gesamten EU gekauft werden. Mehr als eine Million Handys „führender Hersteller“ sollen seit 2018 auf diese Weise vertrieben worden sein. Es handele sich um einen Top-Anbieter für Handys im Internet, hieß es seitens der EUStA.
Die Kriminellen sollen außerdem über Briefkastenfirmen mit Sitz in EU-Ländern und der Schweiz eine Steuerregelung missbraucht haben. Dadurch sei in mehreren EU-Staaten ein Mehrwertsteuerausfall in Höhe von 30 Millionen Euro entstanden, davon mindestens 25 Millionen Euro in Deutschland, teilte die Behörde weiter mit.
Die Firmen versteuerten demnach unrechtmäßig nur die Gewinnmarge, also die Differenz zwischen dem Einkaufspreis des Artikels und dem Verkaufspreis. Diese Steuerregelung gilt nur für weiterverkaufte Waren, für die bereits Mehrwertsteuer entrichtet wurde. Da die Geräte jedoch als Neuware verkauft wurden, wäre die Steuer auf den gesamten Verkaufspreis zu berechnen.
Ein Schwerpunkt der Maßnahmen lag in Nordrhein-Westfalen. In Krefeld wurde nach dpa-Informationen eine Lagerhalle in einem Gewerbegebiet durchsucht, in der sich nach Schätzungen eines Reporters etwa 10.000 bis 15.000 Handys befanden.
Insgesamt sind nach Angaben der EUStA etwa 1.770 Steuer-, Zoll- und Polizeifahnder an der Aktion beteiligt. Die Maßnahmen finden neben Deutschland in Österreich, Belgien, Bulgarien, Kroatien, Zypern, Estland, Finnland, Italien, Lettland, Litauen, Luxemburg, Polen, Portugal, Rumänien, der Slowakei, Spanien, der Schweiz und den Niederlanden statt.
Im Vereinigten Königreich werde zudem eine Zeugin vernommen. Eine große Anzahl digitaler und analoger Beweismittel sei beschlagnahmt und gesichert worden, hieß es.
Bereits am Samstag wurden der EUStA zufolge sieben Verdächtige festgenommen – vier in Deutschland, zwei in Österreich und eine Person in Spanien. Darunter sind demnach auch die zwei mutmaßlichen Anführer der Organisation.
Die EUStA koordinierte die Maßnahmen gemeinsam mit dem Zollfahndungsamt Essen, dem Landesamt zur Bekämpfung der Finanzkriminalität Nordrhein-Westfalen und der Polizei Düsseldorf. Die Behörden ermitteln in dem Fall auch wegen Einfuhrschmuggels, Verstoßes gegen das Markenrecht und der Bildung einer kriminellen Vereinigung.
Die EUStA (auf Englisch: Eppo) verfolgt Delikte, die die finanziellen Interessen der EU betreffen. Dazu gehört Mehrwertsteuerbetrug, aber auch etwa der Missbrauch von Fördergeldern, Geldwäsche oder Korruption. (dpa/red)
Verschiedene KI-Modelle als App: DeepSeek, ChatGPT, Gemini, Grok, Claude und Perplexity AI. - Foto: Robert Way/iStock
Der ChatGPT-Entwickler OpenAI hat wegen Sicherheitsbedenken die Veröffentlichung eines neuen KI-Modells gestrichen.
Unter anderem habe die Software in Tests Nutzer nicht immer ehrlich darüber informiert, welche Aktionen sie unternommen oder nicht unternommen habe, sagte die für Sicherheitssysteme zuständige OpenAI-Managerin Saachi Jain dem „Wall Street Journal“.
Außerdem habe das KI-Modell zum Teil auf eigene Initiative gehandelt, ohne eine Nutzererlaubnis einzuholen. Das Modell mit dem Namen GPT 6.1 Astra sollte demnach in den kommenden Tagen oder Wochen herauskommen.
Training ausgesetzt
Eigenmächtige Aktionen fortgeschrittener Künstlicher Intelligenz von OpenAI hatten in den vergangenen Wochen wiederholt für Negativ-Schlagzeilen gesorgt. Erst am Wochenende wurde bekannt, dass die Firma nach einem neuen Zwischenfall das Training seiner leistungsstärksten KI-Modelle aussetzte.
Bei dem Vorfall schaffte es ein KI-Modell in einem Test, Antworten von einem externen Chatbot zu bekommen, obwohl es eigentlich keinen Internet-Zugang haben sollte.
Die Software habe jedoch eine Lücke in den Netzwerk-Einstellungen gefunden und ausgenutzt, wie OpenAI in einem Blogeintrag berichtete. Das Training solle nun erst wieder aufgenommen werden, wenn man sich sicher sei, dass die Lücke geschlossen ist. Bei dem betroffenen KI-Modell habe es sich nicht um GPT 6.1 Astra gehandelt.
In dem bisher aufsehenerregendsten Fall brach Künstliche Intelligenz des ChatGPT-Entwicklers aus einer abgesicherten Testumgebung aus und hackte sich ungeplant in Computer einer anderen KI-Firma, der Plattform Hugging Face.
Wie sich danach herausstellte, drang auch KI anderer Entwickler – des OpenAI-Rivalen Anthropic sowie von Google und dem Facebook-Konzern Meta – bei Tests in Systeme anderer Unternehmen ein.
Der Bundesstaat Florida, der bereits eine Klage gegen OpenAI eingereicht hatte, legte nun mit dem Antrag auf eine einstweilige Verfügung nach. Zu den Forderungen gehöre, dass es keine Entwicklung neuer KI-Modelle ohne zusätzliche Leitplanken geben solle, sagte Floridas Generalstaatsanwalt James Uthmeier. (dpa/red)
Landtag von Schleswig-Holstein in Kiel - Foto: via dts Nachrichtenagentur
Der Landesverband der Linken in Berlin geht rechtlich gegen das Land Schleswig-Holstein vor. Grund ist ein Instagram-Post von Schleswig-Holsteins Innenministerin Magdalena Finke (CDU), den die Ministerin am 23. September gemeinsam mit dem offiziellen Account ihres Ministeriums veröffentlicht hatte.
Wie die „Kieler Nachrichten“ berichten, wirft die Linke der Ministerin vor, gegen das staatliche Neutralitätsgebot zu verstoßen. Eine entsprechende Abmahnung vom 28. September liegt der Redaktion vor.
Kritik nach Wahlerfolg
Finke hatte die Linke Berlin nach deren Wahlerfolg scharf kritisiert. In dem Instagram-Post schreibt sie unter anderem, wer Judenhass in den eigenen Reihen dulde oder Verbindungen zu Clan-Strukturen habe, dürfe niemals Verantwortung für die Sicherheit übernehmen.
Die Berliner Linken haben dem Land Schleswig-Holstein eine Frist gesetzt. Sie fordern, dass bis zum 1. Oktober eine strafbewehrte Unterlassungserklärung abgegeben wird.
Das Innenministerium in Kiel teilte auf Anfrage mit, die Abmahnung nun rechtlich zu prüfen. Auch gegen Bundeswirtschaftsministerin Katherina Reiche (CDU) geht die Linke wegen eines ähnlichen Vorwurfs vor. (dts/red)
Die Plattform „Archetyp Market“ im Darknet wurde 2025 von den Behörden abgeschaltet. (Symbolbild) - Foto: Jenny Tobien/dpa
Tonnenweise Drogen mit einem Umsatzvolumen von 330 Millionen Euro: Der mutmaßliche Betreiber einer gigantischen Drogenplattform im Darknet hat zum Auftakt des Prozesses am Frankfurter Landgericht ein umfassendes Geständnis abgelegt.
Er sei der Gründer und Betreiber des Online-Marktplatzes „Archetyp Market“ gewesen, sagte der 31-Jährige. „Das war ein großer Fehler und ich bereue meine Taten zutiefst.“ Alles habe als kleines persönliches Projekt begonnen und eine rasante Entwicklung genommen.
„Archetyp Market“ galt als weltweit größter Drogen-Handelsplatz
Bei der Plattform handelte es sich laut Anklage zum Zeitpunkt der Abschaltung im Sommer 2025 um den weltweit größten Handelsmarktplatz für Drogen und Arzneimittel. Gegründet wurde dieser im November 2020.
Der Angeklagte, ein in Minden geborener Betriebswirt, war im Juni 2025 von einer Spezialeinheit der spanischen Nationalpolizei in Barcelona festgenommen worden.
Zugleich gab es nach damaligen Angaben des Bundeskriminalamts Durchsuchungen im In- und Ausland und weitere Festnahmen. Die Serverinfrastruktur befand sich demnach in den Niederlanden.
20 Millionen Euro soll der Angeklagte verdient haben
Den Gesamtumsatz bezifferten die Ermittler auf etwa 330 Millionen Euro. Es soll mehr als 600.000 Konten von Kunden aus aller Welt und 2,3 Millionen Bestellungen gegeben haben.
Konkret wurden demnach etwa 6,9 Tonnen, 3,2 Millionen Pillen, 2,2 Millionen Tabs und 326 Liter diverser Drogen – beispielsweise Kokain, Heroin, Crystal Meth, Fentanyl und Crack gehandelt. Darunter waren auch diverse Cannabisprodukte, Arzneimittel oder Dopingmittel.
Der heute 31-Jährige soll die Plattform verantwortet und gemeinsam mit mehreren Moderatoren betrieben haben. Er selbst soll laut den Ermittlungen Einnahmen von etwa 20 Millionen Euro erzielt haben.
Bezahlt in Kryptowährung Monero
Die Bezahlung erfolgte nach Angaben der Generalstaatsanwaltschaft szenetypisch in der Kryptowährung Monero. Wie der Angeklagte in seiner Einlassung erkläre, registrierten sich die Besteller und zahlten ihr Guthaben in ein Wallet ein. Daraufhin suchten sie sich Waren aus und gaben Lieferadresse ein. Die Bestellung sei dann von den Verkäufern akzeptiert und verschickt worden.
Er selbst habe mit 17 Jahren zum ersten Mal illegale Drogen konsumiert, sagte der Angeklagte. Er habe aber keine Drogen im Darknet verkauft. Auf der Plattform habe er sich den Usernamen „ASNT“ gegeben, als Abkürzung für „Apfelsaft naturtrüb“, weil er das Getränk damals getrunken hatte.
Kurz vor der Festnahme seien die Pläne laut seiner Anwälte immer konkreter geworden, die Plattform abzuschalten. Eine Belastung, an die niemand denke, sei das große Geheimnis vor Familie und Freunden, sagte er. Es klinge komisch, aber die Festnahme habe ihm ein Gefühl von Entlastung und Ruhe gegeben.
Laut Betäubungsmittelgesetz kann für das bandenmäßige unerlaubte Handeln mit Drogen in nicht geringer Menge eine Freiheitsstrafe von fünf Jahren bis zu 15 Jahren verhängt werden. Ein Geständnis gilt oftmals strafmildernd. Das Urteil wird voraussichtlich im Oktober erwartet.
Das Ermittlungsverfahren führte die Zentralstelle zur Bekämpfung der Internetkriminalität (ZIT) der Frankfurter Generalstaatsanwaltschaft, daher findet der Prozess am Frankfurter Landgericht statt. (dpa/red)
Perplexity AI, Microsoft Copilot and OpenAI ChatGPT auf einem Smartphone. - Foto: Robert Way/iStock
Der ChatGPT-Entwickler OpenAI hat nach einem neuen Zwischenfall das Training seiner leistungsstärksten KI-Modelle ausgesetzt. Bei dem Vorfall schaffte es ein KI-Modell in einem Test, Antworten von einem externen Chatbot zu bekommen, obwohl es eigentlich keinen Internet-Zugang haben sollte.
Die Software habe jedoch eine Lücke in den Netzwerk-Einstellungen gefunden und ausgenutzt, wie OpenAI in einem Blogeintrag berichtete. Das Training solle nun erst wieder aufgenommen werden, wenn man sich sicher sei, dass die Lücke geschlossen ist.
Der Zwischenfall sei zwar weniger gravierend als einige frühere, betonte OpenAI. Allerdings sei er der erste, seit die Sicherheitsvorkehrungen nach der Hacking-Attacke von OpenAI-Software auf die KI-Firma Hugging Face verschärft worden waren. Man sehe das als wichtigen Hinweis darauf, wo weitere Nachbesserungen notwendig seien.
In dem Test-Szenario bekam das getestete KI-Modell den Auftrag, auf Grundlage von Hinweisen Informationen über eine Person zu finden, die einen Blogpost veröffentlicht habe. Dafür konnte es auf eine Web-Imitation in einer abgeschirmten Testumgebung zurückgreifen.
Nachdem die Suche dort ergebnislos geblieben war, versuchte die KI jedoch dem OpenAI-Bericht zufolge, Anfragen unter anderem bei Google zu starten. Das schlug wie geplant fehl.
Aber dem KI-Modell fiel dabei auf, dass es über den sogenannten DNS-Resolver der Testumgebung Anfragen an einen Chatbot im offenen Internet stellen kann. DNS-Resolver übertragen Domain-Namen, die man als Nutzer in Browser eintippt, in aus Zahlen bestehende IP-Adressen, unter denen Websites zu finden sind. OpenAI stoppte den Test, nachdem die Kommunikation über die Lücke aufgefallen war.
Zuletzt wurden mehrere neue Zwischenfälle mit KI von OpenAI bekannt. Dazu gehört, dass sie 53 Mal von Nutzern hochgeladene Bilder auf Online-Plattformen platzierte. Die Links dazu seien nicht öffentlich gewesen, erklärte OpenAI.
Ein Großteil sei bereits wieder entfernt worden und man arbeite mit den Plattformen daran, auch den Rest zu löschen. Es ist aber der erste bekanntgewordene Vorfall, bei dem auch Daten von OpenAI-Nutzern betroffen waren.
Wenig später wurde zudem bekannt, dass automatisierte KI-Agenten von OpenAI auch auf mehreren Webseiten der US-Regierung aktiv waren. So habe die Software auf der Seite einer Statistikbehörde mit Hilfe von im Netz entdeckten Logindaten auf öffentlich zugängliche Informationen zugegriffen, teilte OpenAI nach einem Bericht der KI-Forschungsfirma Transluce mit.
Auf der Seite der Börsenaufsicht SEC seien ebenfalls öffentlich zugängliche Informationen kopiert worden. Beim US-Bildungsministerium versuchte die KI-Software laut Transluce vergeblich, sich in Daten der Bürgerrechtsabteilung zu hacken, wie die „New York Times“ berichtete. Sogenannte KI-Agenten sollen im Auftrag von Nutzern eigenständig Aufgaben erfüllen.
Derweil deutet sich an, dass noch viele weitere Enthüllungen um eigenständige Hacking-Aktivitäten der KI von OpenAI folgen könnten. Man habe „Dutzende“ Organisationen informiert, mit deren Webseiten Software von OpenAI auf ungeplante Weise „interagiert“ habe, teilte die KI-Firma mit.
„Einige der betroffenen Webseiten werden von Regierungen, Universitäten, Behörden und anderen Institutionen betrieben“, hieß es. Man überlasse es ihnen, die Vorfälle öffentlich zu machen.
Zuletzt hatte die Regierung Australiens mit der Mitteilung für Schlagzeilen gesorgt, dass KI von OpenAI in eine Website des australischen Gesundheitssystems eingedrungen war.
In dem bisher aufsehenerregendsten Fall brach Künstliche Intelligenz des ChatGPT-Entwicklers aus einer abgesicherten Testumgebung aus und drang ungeplant in Computer einer anderen KI-Firma ein, der Plattform Hugging Face. (dpa/red)
Erstmals werden Vorfälle mit KI von OpenAI bekannt, bei denen auch Nutzerdaten betroffen waren. (Archivbild) - Foto: Richard Drew/AP/dpa
Die Künstliche Intelligenz des ChatGPT-Entwicklers OpenAI hat 53 Mal von Nutzern hochgeladene Bilder auf Online-Plattformen platziert. Die Links dazu seien nicht öffentlich gewesen, erklärte OpenAI. Ein Großteil sei bereits wieder entfernt worden und man arbeite mit den Plattformen daran, auch den Rest zu löschen. Es ist der erste bekanntgewordene Vorfall, bei dem auch Daten von OpenAI-Nutzern betroffen waren.
Unterdessen deutet sich an, dass noch viele weitere Enthüllungen um eigenständige Hacking-Aktivitäten der KI von OpenAI folgen könnten. Man habe „Dutzende“ Organisationen informiert, mit deren Webseiten Software von OpenAI auf ungeplante Weise „interagiert“ habe, teilte die KI-Firma mit. „Einige der betroffenen Webseiten werden von Regierungen, Universitäten, Behörden und anderen Institutionen betrieben“, hieß es. Man überlasse es ihnen, die Vorfälle öffentlich zu machen.
Zuletzt hatte die Regierung Australiens für Schlagzeilen gesorgt mit der Mitteilung, dass KI von OpenAI in eine Website des australischen Gesundheitssystems eingedrungen war.
Im Fall der ins Netz geladenen Nutzer-Bilder verwies OpenAI darauf, dass die hochgeladenen Bilder von Nutzern stammten, die der Verwendung ihrer Daten zur Verbesserung der KI-Modelle zugestimmt hätten. Dabei würden personenbezogene Daten und die Verknüpfung zu konkreten Accounts entfernt und könnten auch nicht wiederhergestellt werden. OpenAI äußerte sich auf Anfrage nicht dazu, ob es sich um 53 Bilder handelte oder pro Vorgang mehrere Bilder hochgeladen worden sein könnten.
Das Eingeständnis ist die nächste Enthüllung in der Saga um KI, die in Testläufen – zunächst unbemerkt – problematisches Vorgehen an den Tag legte. In dem bisher aufsehenerregendsten Fall brach Künstliche Intelligenz des ChatGPT-Entwicklers aus einer abgesicherten Testumgebung aus und drang ungeplant in Computer einer anderen KI-Firma ein, der Plattform HuggingFace. Das veranlasste den Rivalen Anthropic, seine eigenen Testläufe zu überprüfen, wobei weitere Vorfälle ans Licht kamen. Auch der Facebook-Konzern Meta und Google räumten danach ein, dass ihre KI sich Zugang zu Computern anderer Unternehmen verschafft hatte. (dpa/red)
Redner mehrerer Fraktionen dankten den Grünen dafür, dass sie eine Aktuelle Stunde zum Thema KI-Regulierung aufgesetzt hatten. - Foto: Michael Brandt/dpa
Angesichts der rasanten Entwicklung bei neuen KI-Anwendungen haben Abgeordnete verschiedener Fraktionen im Bundestag mehr Sicherheit und eine stärkere Eigenständigkeit bei künstlicher Intelligenz gefordert.
Franziska Brantner (Grüne) warb für eine Aufsicht auf Augenhöhe mit den Unternehmen und verwies auf aktuelle Fälle, in denen KI-Modelle aus Testumgebungen ausgebrochen und in fremde Systeme eingedrungen waren.
Bei den notwendigen Regeln zum Schutz vor negativen Folgen des Einsatzes künstlicher Intelligenz müsse es auch um Haftungsfragen gehen, so Brantner. Sie betonte zugleich die mit KI verbundenen Chancen. „Wer selbst die Technologie nicht hat, der bleibt abhängig“, sagte die Grünen-Chefin.
Neues KI-Sicherheitsinstitut
Thomas Jarzombek (CDU), parlamentarischer Staatssekretär im Digitalministerium, sagte in der von den Grünen beantragten Debatte zur KI-Kontrolle, der Fokus müsse stärker darauf liegen, Gründungen von Firmen mit dem Geschäftsfeld KI zu erleichtern; zugleich brauche es globale Sicherheitsstandards. Er verwies in diesem Kontext auf das noch im Aufbau befindliche deutsche KI-Sicherheitsinstitut (AISI).
Wer die Leitung des Instituts, das unter dem gemeinsamen Dach des Digitalministeriums und des Bundesinnenministeriums arbeitet, übernehmen soll, ist noch offen. Jarzombek sagte, das Institut solle keine klassische Behörde sein, vielmehr gehe es darum, „eine Truppe aufzubauen, die auch helfen und auch abwehren“.
Karl Lauterbach (SPD) forderte eine Verlangsamung der Entwicklung neuer KI-Modelle, denn spätestens in zwei Jahren werde es so sein, dass der größte Teil der KI-Entwicklung von einer KI vorgenommen werde.
Gleichzeitig warnte er vor technologischer Abhängigkeit: Deutschland müsse beim Aufbau eigener KI-Fähigkeiten aufholen, auch wenn die Ausgangssituation nicht einfach sei. Er sagte: „Wenn wir das nicht tun, laufen wir in eine brutale Abhängigkeit hinein.“
Sonja Lemke (Linke) pochte auf eine Vergütung für Urheber, deren Werke zum Training von KI genutzt werden. Tobias Ebenberger (AfD) sagte, eine sich verselbständigte künstliche Superintelligenz könne niemand wollen.
Für Aufregung sorgte zuletzt unter anderem der Zugriff eines OpenAI-Agenten auf ein staatliches Statistikportal im Umfeld des australischen Gesundheitssystems. Digitalminister Karsten Wildberger (CDU) bezeichnete den Vorfall in einem BBC-Interview als „sehr beunruhigend“.
Sicherheitsvorfälle, bei denen KI-Modelle aus Testumgebungen ausgebrochen und in fremde Systeme eingedrungen waren, gab es in den vergangenen Monaten auch mit KI-Modellen anderer Entwicklungslabore. (dpa/red)
Google (Archiv) - Foto: via dts Nachrichtenagentur
Google macht einen ersten Schritt, um herauszufinden, ob Rechenzentren im All machbar sind. Der Internet-Konzern schickt vier seiner KI-Chips in die Umlaufbahn, um zu testen, wie gut sie das vertragen können. Probleme könnten dabei schon in der Startphase drohen, weil die Prozessoren Erschütterungen und einem vielfachen der Erdanziehungskraft ausgesetzt sein werden, wie Google in einem Blogeintrag erläuterte. In Vibrationstests auf der Erde hätten die Chips den Belastungen standgehalten, hieß es.
Eine weitere Herausforderung sei die starke Strahlung außerhalb der Erdatmosphäre, die Elektronik beschädigen könne. Um ihre Effekte zu simulieren, seien die TPU-Chips (Tensor Processing Unit) im Labor mit einem Protonen-Strahl beschossen worden. Nach diesen Versuchen sei man zwar überzeugt, dass die Technik den geplanten fünfjährigen Einsatz in Weltraum-Rechenzentren überstehen könne: „Aber einige Dinge können nur im All getestet werden.“
Der Satellit mit den Google-Chips soll kommende Woche starten – als einer von vielen auf einer Rakete der Weltraumfirma SpaceX von Tech-Milliardär Elon Musk.
Musk kündigt oft an, mit SpaceX eigene Rechenzentren in der Umlaufbahn aufbauen zu wollen. Er verweist vor allem auf die Möglichkeit, dass dort große Mengen Solarstrom für den Betrieb der Anlagen erzeugt werden könnten. Zugleich stößt der laufende Ausbau immer größerer Rechenzentren für den Betrieb Künstlicher Intelligenz vor allem in den USA auf zunehmenden Widerstand. Sie einfach ins All auszulagern, wäre Musks Logik folgende eine mögliche Lösung dafür.
Zugleich gibt es bei den Plänen noch sehr viele offene Fragen. Das betonte auch Google. So sei die Kühlung ein Problem, hieß es. Rechenzentren erzeugen beim Betrieb viel Hitze. Und im All ist es zwar eiskalt – aber ohne einen Luftzug im Vakuum kann die Hitze nur über Kühlelemente abgeführt werden, was einen anderen Ansatz als auf der Erde erfordert. Bei dem Test wolle man unter anderem erkunden, wie das neu entworfene Kühlsystem unter realen Bedingungen im Weltall funktioniere, erklärte Google. Eine weitere Herausforderung sei die Übertragung großer Datenmengen zwischen einzelnen Rechenzentren-Satelliten, die sich mit hoher Geschwindigkeit bewegten. (dpa/red)
Peter Thiel (M.) und Max Levchin (r.) mit Axel-Springer-Chef Mathias Döpfner (l.) beim Axel Springer Award in Berlin am 24. September 2026. - Foto: Tobias SCHWARZ / AFP via Getty Images
Der aus Deutschland stammende US-Investor Peter Thiel ist mit einem Preis des Axel-Springer-Verlags in Berlin ausgezeichnet worden. „Wir würdigen den wirkungsvollsten Deutschen unserer Zeit“, sagte der Vorstandschef des Axel-Springer-Verlags, Mathias Döpfner, über Thiel in einer Rede bei der Preisverleihung am Donnerstagabend in Berlin. Der umstrittene Investor sei womöglich der „beste Risikoanleger des 21. Jahrhunderts“ und „auf jeden Fall ein unkonventioneller Vordenker“, fügte Döpfner hinzu.
Auch der Chef des von Thiel mitgegründeten Datenanalyseunternehmens Palantir, Alex Karp, ehrte Thiel in einer zuvor aufgezeichneten Rede. Darin nannte Karp seinen Geschäftspartner Thiel auf deutsch den „letzten Deutschen“ und erklärte, Deutschland könne von Thiels Qualitäten lernen. Auch der russische frühere Schach-Weltmeister Garri Kasparow und die konservative Chefredakteurin des US-Senders CBS News, Bari Weiss, hielten Lobesreden auf Thiel.
Peter Thiel (l.) posiert mit Axel-Springer-Chef Mathias Döpfner (r.) und CBS-News-Chefredakteurin Bari Weiss beim Axel Springer Award in Berlin am 24. September 2026.
Foto: Tobias SCHWARZ / AFP via Getty Images
Thiel spricht über Mieten und seine politischen Ansichten
Thiel nahm den Preis dankend an und sprach in einem anschließenden Podiumsgespräch mit Döpfner über eine große Spannweite von Themen. Der US-Investor, der ein Jahr nach seiner Geburt aus Deutschland in die USA gezogen war, kommentierte unter anderem den jüngsten Wahlsieg der Linkspartei in Berlin. Es gebe ein „sehr echtes Problem“ mit zu hohen Mietkosten, sagte Thiel. „Wenn niemand anderes darüber spricht, wird die Linke weiter gewinnen“, fügte er hinzu und betonte zugleich, die Partei habe „keine guten Antworten darauf“.
Der 59-Jährige ging außerdem auf die Kritik an seinen ultralibertären Überzeugungen und politischen Ansichten ein. Einen Essay von ihm aus dem Jahr 2009, in dem er bekundete, dass er nicht länger glaube, „dass Freiheit und Demokratie miteinander vereinbar sind“, bezeichnete er als „hastig getippte Sache“, die ihn seither verfolge. „Ich glaube nicht, dass ich etwas besonders Kontroverses gesagt habe“, sagte Thiel in Berlin. Er habe damals jedoch gelernt, dass das Schreiben eine „gefährliche Tätigkeit“ sei.
Der in Frankfurt am Main geborene Unternehmer ist unter anderem als Mitgründer des Internetbezahldienstes Paypal sowie als früher Investor in den Onlinedienst Facebook bekannt. Zudem ist der libertär-konservative Investor ein Unterstützer der US-Regierung von Donald Trump. (afp/red)
Die Versand-Apotheke dm-med bezeichnet dm als Partnerunternehmen. - Foto: Bernd Weißbrod/dpa
Vor zwei Wochen erst hat die Drogeriemarktkette dm vor dem Landgericht Karlsruhe ihr Angebot von Augenscreening in Filialen verteidigt. Heute geht es am selben Ort um die Online-Apotheke dm-med.
Kurz vor Weihnachten 2025 hat dm angefangen, nicht verschreibungs-, aber apothekenpflichtige Medikamente wie manche Schmerzmittel online zu verkaufen. Dafür hat das Karlsruher Unternehmen eigens eine Tochtergesellschaft in Tschechien gegründet. Der Online-Shop dm-med ist über die dm-Homepage erreichbar und wird dort als Partner bezeichnet.
Klage der Wettbewerbszentrale
Die Wettbewerbszentrale klagt dagegen vor dem Landgericht. Der Verein, der unter anderem Spitzenverbände der deutschen Wirtschaft vertritt, will die Online-Apotheke im Grunde verbieten lassen. Konkret soll dm es unterlassen, apothekenpflichtige Arzneimittel gegenüber Endverbrauchern zum Kauf anzubieten und/oder zu verkaufen und/oder in den Verkehr zu bringen.
Die Parteien streiten nach Angaben eines Gerichtssprechers unter anderem darüber, ob es sich bei dm-med um ein Angebot von dm selbst handelt oder ob es hinreichend vom Angebot der Beklagten, das sich auf Drogerieartikel bezieht, getrennt sei. Es geht unter anderem um Wettbewerbsrecht, das Arzneimittelgesetz und die Apothekenbetriebsordnung.
Am Online-Auftritt der Versandapotheke hat dm nach eigenen Angaben seit der Einführung nichts geändert – und sieht sich damit rechtskonform aufgestellt. Anfang dieses Monats startete das Unternehmen eine bundesweite Kommunikationskampagne, mit der es deutlich machen will, „wie einfach sich Drogerieartikel von dm und Apothekenprodukte von dm-med in nur einem Bestellvorgang gemeinsam digital einkaufen lassen“. Der Claim: „Alles zusammen. Einfach bestellt“.
Legt eine Partei Rechtsmittel ein, wäre die nächste Instanz das Oberlandesgericht Karlsruhe. Als höchstes Zivilgericht in Deutschland wäre danach der Bundesgerichtshof zuständig.
Dass das ein realistisches Szenario ist, machte dm-Geschäftsführer Marketing + Beschaffung, Sebastian Bayer, schon vor der Verhandlung deutlich: Wichtig sei dm, Rechtssicherheit zu bekommen, sagte er. Die Wettbewerbszentrale will anhand der Urteilsgründe prüfen, ob es sinnvoll sein kann, ein Rechtsmittel einzulegen.
Bei der Versand-Apotheke von dm bekommt man apothekenpflichtige, rezeptfreie Medikamente.
Foto: Bernd Weißbrod/dpa
Interesse der Kunden
Die bisherige Nutzung entspricht laut dm den Erwartungen. Ein Viertel der dm-med-Kundschaft bestelle rein aus diesem Sortiment. Die restlichen 75 Prozent hätten bei einem Einkauf auch andere Drogerieartikel im Warenkorb. Welchen Anteil am Umsatz dm-med bislang ausmacht, teilte das Unternehmen nicht mit. Deutlich überwiegend seien nach wie vor reine Drogerie-Einkäufe – also ohne Produkte aus dem Sortiment von dm-med.
Nicht zuletzt wegen der Versandapotheke wächst der Anteil des Online-Geschäfts bei dm. Auch hierzu nennt dm keine Zahlen. Die Kunden bei dm-med seien im Schnitt etwas älter, habe man festgestellt. Zudem kauften hier mehr Männer ein.
Generell werden Medikamente immer häufiger im Internet gekauft. Online-Apotheken wie Redcare Pharmacy (früher Shop Apotheke) und DocMorris verzeichnen eine steigende Nachfrage. Die Kategorie Medikament zählte im vergangenen Jahr zu den Gewinnern im Online-Handel.
Der Umsatz stieg in Deutschland um sechs Prozent, wie der Bundesverband E-Commerce und Versandhandel mitteilte. Ein wichtiger Grund für den Zuwachs ist das 2024 eingeführte E-Rezept.
Die Karlsruher prüfen, das Angebot auszuweiten. So werden in Deutschland auch Tierarzneimittel in Apotheken verkauft. „Hierzu haben uns viele Anfragen erreicht“, sagte Geschäftsführer Bayer. Außerdem könnte eine Versandapotheke auch in anderen Ländern eingeführt werden.
Konkret überlegt dm das für Österreich. Dort seien die Regularien jedoch noch strenger als in Deutschland. In Polen wiederum seien sie lockerer: Dort dürfe dm beispielsweise Aspirin auch in den Filialen verkaufen.
Rossmann hat zum Ende dieses Jahres eine Versand-Apotheke angekündigt. Dort sollen Patienten auch ihr E-Rezept einlösen können. Von Müller sind keine derartigen Pläne bekannt. Auf Nachfrage hieß es, dass man sich dazu „aus unternehmerischen Gründen aktuell nicht äußern möchten“.
Apotheken warnen vor der Entwicklung
Der Deutsche Apothekerverband hatte beim Start von dm-med gewarnt, dass Menschen mit gesundheitlichen Problemen verunsichert werden könnten, wenn der Unterschied zwischen Apotheke und Drogeriemarkt verwässert werde. Auch wollten sich drei Viertel aller Patienten in der Apotheke vor Ort in Sachen Selbstmedikation beraten lassen.
Erst vor wenigen Tagen bezeichnete der Präsident der Bundesvereinigung Deutscher Apothekerverbände, Thomas Preis, den Versandhandel – vor allem aus dem Ausland – als Störfaktor für die flächendeckende, wohnortnahe Arzneimittelversorgung. Mit der jüngsten Apothekenreform sei eine weitere Chance verpasst worden, den Versandhandel angemessen zu regulieren. (dpa/red)
Im September 2025 legte ein Cyberangriff einen IT-Dienstleister lahm und sorgte damit für erhebliche Einschränkungen an mehreren europäischen Flughäfen. Auch am BER kam es zu Verzögerungen. (Archivbild) - Foto: Michael Ukas/dpa
Die EU ist nach Einschätzung des Europäischen Rechnungshofs nicht genug auf die Aufdeckung und Abwehr großer Cyberangriffe vorbereitet. Staaten und Institutionen der EU müssten stärker zusammenarbeiten, um Informationen besser auszutauschen und Überschneidungen zu vermeiden, stellen die unabhängigen Prüfer des Rechnungshofs in ihrem Bericht fest.
Unzureichender Informationsaustausch sei dabei die größte Schwachstelle: Dass Informationen nicht weitergegeben werden, bedeute, dass Mitgliedstaaten nicht von dem Wissen und den Erfahrungen anderer profitieren könnten, kritisierte George-Marius Hyzler, Prüfer beim Europäischen Rechnungshof bei einer Pressekonferenz.
Cyberattacke am BER: Deutschland aktivierte EU-Experten nicht
Wie folgenreich IT-Attacken für Bürger in der EU sein können, zeigte sich vor etwa einem Jahr. Im September 2025 legte ein umfangreicher Cyberangriff auf einen IT-Dienstleister die Passagierabfertigung an mehreren europäischen Flughäfen lahm.
Die Airlines behalfen sich wegen der Attacke damit, etwa das Einchecken der Passagiere zum Teil per Hand oder mit externer Technik zu erledigen. Von den Problemen waren auch Flughäfen in London, Brüssel und Dublin betroffen.
Trotz der erheblichen Auswirkungen des Vorfalls hätten die betroffenen Mitgliedsländer, also Deutschland, Belgien und Irland, den Vorfall weder der EU-Cybersicherheitsagentur Enisa noch den anderen Mitgliedsländern entsprechend gemeldet, kritisiert der Bericht. Dadurch seien Potenziale bei der gemeinsam koordinierten Abwehr des Angriffs ungenutzt geblieben.
Nationale Sicherheitsinteressen bremsen Informationsaustausch
Rechtsvorschriften, etwa zur nationalen Sicherheit aus den Mitgliedstaaten, hindern dem Bericht zufolge den Informationsfluss. Ist ein Land der Auffassung, dass Informationen zu Cyberangriffen auf kritische Einrichtungen als Verschlusssache einzustufen sind oder die Meldung eines Vorfalls der nationalen Sicherheit schaden würde, so müssen die Mitgliedstaaten diese Informationen nicht weitergeben.
Cyberabwehr bleibt vor allem Aufgabe der Mitgliedstaaten
Die Verantwortung für die Bekämpfung von Cyberangriffen liegt bei den Mitgliedstaaten. Kommt es jedoch zu Störungen, die mehrere Länder oder die reibungslose Funktion des Binnenmarktes beeinträchtigen, so können EU-Behörden eingreifen und die Länder unterstützen. Der Europäische Rechnungshof prüft die Ausgaben der EU und kontrolliert, ob die Gelder effektiv verwendet werden. (dpa/red)
Googles KI Gemini soll mit ChatGPT und Co mithalten. (Archivbild) - Foto: Andrej Sokolow/dpa
In der Debatte um existenzielle Risiken Künstlicher Intelligenz könnte der US-Bundesstaat Kalifornien eine Notabschalt-Vorrichtung für KI-Software vorschreiben. Ein solcher Mechanismus gehört zu einer Liste von Maßnahmen, zu denen dem demokratischen Gouverneur Gavin Newsom bis Mitte November Vorschläge gemacht werden sollen. Zu weiteren Ideen gehören unabhängige Beobachter in großen KI-Laboren sowie striktere Verpflichtungen, über Sicherheits-Zwischenfälle zu berichten, wie aus einer von Newsom unterzeichneten Anordnung hervorgeht.
Über einen „Kill Switch“ für Künstliche Intelligenz wird schon seit einiger Zeit diskutiert – noch ist aber unklar, ob eine solche Vorrichtung zur Notabschaltung überhaupt realistisch ist.
Kalifornien gilt als wichtigster Standort bei der Entwicklung Künstlicher Intelligenz. Vor allem in San Francisco und dem Silicon Valley sitzende führende KI-Unternehmen wie der ChatGPT-Entwickler OpenAI, dessen schärfster Rivale Anthropic und Google. Damit könnte der Bundesstaat auch bei der Regulierung eine zentrale Rolle spielen.
Experten plädieren für unabhängige Aufsicht
Die Debatte um Gefahren Künstlicher Intelligenz heizte sich in den vergangenen Wochen auf, insbesondere nachdem eigenständige Hacking-Attacken durch Software mit Künstlicher Intelligenz bekanntgeworden waren. Mitarbeiter von KI-Laboren warnten vor dem Risiko, dass die Menschheit die Kontrolle über Künstliche Intelligenz verlieren oder sogar von ihr ausgelöscht werden könnte.
Inzwischen fordern Dutzende renommierte Experten aus der Branche führende KI-Labore auf, unabhängige Aufsicht in ihren Unternehmen zuzulassen. Die Aufseher müssten wie führende Manager Zugang zu Systemen haben und mit zuständigen Mitarbeitern kommunizieren können, heißt es in einem offenen Brief. Zu den Unterzeichnern gehört der Physik-Nobelpreisträger und ehemalige Google-Forscher Geoffrey Hinton, der als einer der wichtigsten Köpfe hinter modernen KI-Systemen gilt. Anthropic gab als ersten Aufsichtspartner die Firma Faculty bekannt – eine Tochter des Beratungsriesen Accenture.
Googles KI Gemini hackte ebenfalls andere Unternehmen
Wie groß die Herausforderungen rund um die Kontrolle der neuen Systeme sind, zeigt nun ein weiterer Fall: Auch Googles KI-Software Gemini hackte sich bei Tests ihrer Cybersicherheits-Fähigkeiten in Computersysteme anderer Unternehmen. Der Internet-Riese ist der vierte Entwickler Künstlicher Intelligenz (KI), dessen Programme mit einem solchen Verhalten auffielen, nach OpenAI, Anthropic und dem Facebook-Konzern Meta. Google machte die bereits Monate zurückliegenden Vorfälle erst nach einer Nachfrage der Zeitung „Wall Street Journal“ öffentlich.
Demnach gab es drei Fälle, in denen Gemini in Computer anderer Unternehmen eindrang, deren Namen nicht genannt werden. In einem davon erriet die KI Passwörter, um in ein geschütztes System reinzukommen. In den beiden anderen fand sie Zugangsdaten in einer Datenbank, wie das „Wall Street Journal“ unter Berufung auf Google schrieb.
Google fand die Vorfälle nicht erwähnenswert
Die Vorfälle ereigneten sich demnach im Mai – und die Firma Irregular als Testpartner informierte Google im Juli darüber. Aus Sicht des Internetkonzerns sei es nicht notwendig gewesen, die Zwischenfälle öffentlich zu machen, da dabei kein Schaden entstanden sei. Zudem habe die KI die Attacken sofort beendet, als ihr klar geworden sei, dass sie in Systeme eines echten Unternehmens eingedrungen sei – und nicht eines, das eine Testsimulation war.
In dem bisher aufsehenerregendsten Fall war Künstliche Intelligenz des ChatGPT-Entwicklers OpenAI bei einem Test aus einer abgesicherten Umgebung ausgebrochen und drang ungeplant in Computer einer anderen KI-Firma, der Plattform HuggingFace, ein. Das hatte den Rivalen Anthropic veranlasst, seine eigenen Testläufe zu überprüfen, wobei weitere Vorfälle ans Licht kamen. Auch Meta räumte danach ein, dass KI des Konzerns sich wegen einer Fehlkonfiguration des Systems bei einem Testpartner in Computer eines anderen Unternehmens gehackt habe.
Primär geht es bei den Aktivitäten von «Waterplum» um den Diebstahl von Kryptowährung, etwa um das Rüstungsprogramm zu finanzieren. (Archivbild) - Foto: Cha Song Ho/AP/dpa
Ein vermeintliches Jobangebot kann für IT-Fachleute zur Hackerfalle werden: Deutsche Nachrichtendienste warnen vor einer nordkoreanischen Cybergruppierung, die gezielt Arbeitssuchende ins Visier nimmt. Die Angreifer stehlen dabei Kryptowährungen, um internationale Sanktionen gegen Nordkorea zu umgehen und das Rüstungsprogramm des Landes zu finanzieren. Dafür setzen sie auf sogenanntes Social Engineering – sie manipulieren ihre Opfer gezielt, um an vertrauliche Informationen zu gelangen oder sie zu bestimmten Handlungen zu bewegen.
In dem Hinweis, den das Bundesamt für Verfassungsschutz und der Bundesnachrichtendienst (BND) gemeinsam mit Sicherheitsbehörden in Japan, den USA und Australien veröffentlicht haben, wird erklärt, wie die nordkoreanischen Cyberkriminellen bei ihrer Kampagne, die in der IT-Sicherheitsszene „Contagious Interview“ genannt wird, vorgehen:
Zuerst treten sie über soziale Medien, Job-Plattformen oder Internet-Marktplätze für freiberufliche Aufträge in Kontakt mit Softwareentwicklern und anderen IT-Fachleuten, die Arbeit suchen. Dabei treten sie unter anderem als Vertreter von KI-Firmen oder Unternehmen aus der Kryptobranche auf.
Im Verlauf des vermeintlichen Online-Bewerbungsprozesses soll der Job-Kandidat eine Aufgabe erfüllen, für die er eine Datei herunterladen soll. Die enthält ein Schadprogramm.
Sobald sich die Angreifer damit so Zugang zum System des Betroffenen verschafft hat, stehlen sie sensible Daten und Kryptowährung. Trojaner halten Zugangswege für weitere Angriffe auf andere Systeme des Opfers aufrecht.
IT-Fachkräfte aus Nordkorea verschleiern ihre Herkunft
Gleichzeitig setzt Nordkorea den Angaben zufolge auf eine andere Kampagne, zu der es bereits im Oktober 2024 einen öffentlichen Hinweis gab. Hier besorgen sich nordkoreanische IT-Spezialisten unter falscher Identität Jobs als Remote-Entwickler bei Unternehmen. Auch hier geht es darum, Zahlungen zu erhalten und Geld für den nordkoreanischen Staat zu beschaffen.
Um nicht als Nordkoreaner sichtbar zu werden, nutzen die Arbeitskräfte teilweise sogenannte Laptop-Farmen, das sind Orte in einem anderen Land, an denen Rechner stehen, auf die der IT-Spezialist aus der Ferne Zugriff hat.
Arbeitgeber sollten misstrauisch werden, wenn ein Bewerber beispielsweise Ausreden erfinde, um ein persönliches Treffen zu vermeiden, um Bezahlung in Kryptowährung bitte oder während des Online-Bewerbungsgesprächs häufig zur Seite schaue, so als würde er von einem zweiten Monitor ablesen.
Umgehung von Sanktionen
Nordkorea unterliegt wegen seines Atom- und Raketenprogramms seit rund zwei Jahrzehnten umfangreichen UN-Sanktionen. Zuletzt hatten China und Russland im UN-Sicherheitsrat weitere Strafmaßnahmen gegen Nordkorea blockiert. Zudem verhinderten sie die Verlängerung des Mandats eines UN-Expertengremiums, das die Umsetzung der Sanktionen überwacht hatte.
Ziel der Gruppe „Waterplum“ sei es, Finanzmittel für die „Gehälter für das Kim-Regime und sein Militär“ zu beschaffen, heißt es in der Mitteilung. Spionage und Diebstahl geistigen Eigentums könnten im Einzelfall jedoch ebenfalls eine Rolle spielen. (dpa/red)
Primär geht es bei den Aktivitäten von «Waterplum» um den Diebstahl von Kryptowährung, etwa um das Rüstungsprogramm zu finanzieren. (Archivbild) - Foto: Cha Song Ho/AP/dpa
Ein vermeintliches Jobangebot kann für IT-Fachleute zur Hackerfalle werden: Deutsche Nachrichtendienste warnen vor einer nordkoreanischen Cybergruppierung, die gezielt Arbeitssuchende ins Visier nimmt. Die Angreifer stehlen dabei Kryptowährungen, um internationale Sanktionen gegen Nordkorea zu umgehen und das Rüstungsprogramm des Landes zu finanzieren. Dafür setzen sie auf sogenanntes Social Engineering – sie manipulieren ihre Opfer gezielt, um an vertrauliche Informationen zu gelangen oder sie zu bestimmten Handlungen zu bewegen.
In dem Hinweis, den das Bundesamt für Verfassungsschutz und der Bundesnachrichtendienst (BND) gemeinsam mit Sicherheitsbehörden in Japan, den USA und Australien veröffentlicht haben, wird erklärt, wie die nordkoreanischen Cyberkriminellen bei ihrer Kampagne, die in der IT-Sicherheitsszene „Contagious Interview“ genannt wird, vorgehen:
Zuerst treten sie über soziale Medien, Job-Plattformen oder Internet-Marktplätze für freiberufliche Aufträge in Kontakt mit Softwareentwicklern und anderen IT-Fachleuten, die Arbeit suchen. Dabei treten sie unter anderem als Vertreter von KI-Firmen oder Unternehmen aus der Kryptobranche auf.
Im Verlauf des vermeintlichen Online-Bewerbungsprozesses soll der Job-Kandidat eine Aufgabe erfüllen, für die er eine Datei herunterladen soll. Die enthält ein Schadprogramm.
Sobald sich die Angreifer damit so Zugang zum System des Betroffenen verschafft hat, stehlen sie sensible Daten und Kryptowährung. Trojaner halten Zugangswege für weitere Angriffe auf andere Systeme des Opfers aufrecht.
IT-Fachkräfte aus Nordkorea verschleiern ihre Herkunft
Gleichzeitig setzt Nordkorea den Angaben zufolge auf eine andere Kampagne, zu der es bereits im Oktober 2024 einen öffentlichen Hinweis gab. Hier besorgen sich nordkoreanische IT-Spezialisten unter falscher Identität Jobs als Remote-Entwickler bei Unternehmen. Auch hier geht es darum, Zahlungen zu erhalten und Geld für den nordkoreanischen Staat zu beschaffen.
Um nicht als Nordkoreaner sichtbar zu werden, nutzen die Arbeitskräfte teilweise sogenannte Laptop-Farmen, das sind Orte in einem anderen Land, an denen Rechner stehen, auf die der IT-Spezialist aus der Ferne Zugriff hat.
Arbeitgeber sollten misstrauisch werden, wenn ein Bewerber beispielsweise Ausreden erfinde, um ein persönliches Treffen zu vermeiden, um Bezahlung in Kryptowährung bitte oder während des Online-Bewerbungsgesprächs häufig zur Seite schaue, so als würde er von einem zweiten Monitor ablesen.
Umgehung von Sanktionen
Nordkorea unterliegt wegen seines Atom- und Raketenprogramms seit rund zwei Jahrzehnten umfangreichen UN-Sanktionen. Zuletzt hatten China und Russland im UN-Sicherheitsrat weitere Strafmaßnahmen gegen Nordkorea blockiert. Zudem verhinderten sie die Verlängerung des Mandats eines UN-Expertengremiums, das die Umsetzung der Sanktionen überwacht hatte.
Ziel der Gruppe „Waterplum“ sei es, Finanzmittel für die „Gehälter für das Kim-Regime und sein Militär“ zu beschaffen, heißt es in der Mitteilung. Spionage und Diebstahl geistigen Eigentums könnten im Einzelfall jedoch ebenfalls eine Rolle spielen. (dpa/red)
Karin Prien, Bundesministerin für Bildung, Familie, Senioren, Frauen und Jugend. - Foto: Matthias Kehrein/Epoch Times
Bundesfamilienministerin Karin Prien (CDU) hält den gesellschaftlichen Umgang mit digitalen Medien für fahrlässig. „In Wahrheit haben wir es mit einem großen Menschheitsversuch zu tun“, sagte Prien den Zeitungen der Mediengruppe Bayern (Freitagsausgaben). „Wir nutzen seit knapp 20 Jahren Smartphones, eine sich schnell verändernde Technologie, ohne eine Risikofolgen-Abschätzung zu machen.“
„Produkthaftung, Vorsorgeprinzip – das sind Stichworte, die wir mit potenziell gefährlichen Technologien verbinden“, sagte Prien. „Das haben wir in diesem Bereich nicht gemacht, sondern der Entwicklung ihren Lauf gelassen.“ Europa sei der einzige große Wirtschafts- und Gesellschaftsraum, in dem es überhaupt Regulierungsansätze gebe. „Generell glaube ich: Wir waren zu naiv“, betonte die Ministerin.
Null bis drei Jahre: Prien fordert Verzicht auf Bildschirme
Auf die Frage, ab welchem Alter Kinder Zugang zu digitalen Geräten haben sollten, antwortete Prien: „Gar keine Geräte im Alter von null bis drei Jahren. Damit meine ich alle Bildschirme – ehrlicherweise gilt das nicht nur für Kinder, sondern auch für Erwachsene, während sie Zeit mit ihren Kindern verbringen.“ Das könne Erwachsenen zwar nicht verboten werden, „aber man kann es als Empfehlung und als gesellschaftliche Norm regeln“.
Der Schaden, der bei Kindern entstehe, weil Eltern keinen Blickkontakt mehr zu ihrem Baby und keine intensive Sprachkommunikation mit ihrem Kleinkind haben, sei „dramatisch“. Prien zog einen harten Vergleich: „Dann ist der Bildschirm-Konsum so schlimm wie Rauchen und Alkohol in der Schwangerschaft.“
Die EU-Kommission will die Social-Media-Nutzung für Kinder und Jugendliche deutlich beschränken. Bis zum Alter von 13 Jahren sollen Kinder weder eigene Accounts noch Geräte haben. Jugendliche ab 13 Jahren sollen zunächst nur eine Stunde am Tag von ihren Eltern eingerichtete und beaufsichtigte „Mini-Konten“ nutzen dürfen.
Eigene Nutzerkonten sollten grundsätzlich erst ab 15 Jahren möglich sein. Die Onlineanbieter müssen demnach das Alter kontrollieren. Außerdem sollen die Plattformen künftig mit verschiedenen Funktionen und Voreinstellungen nachweisen müssen, dass sie sicher für Kinder und Jugendliche sind.
Für Jugendliche und ihre Eltern gäbe es keine Strafen – der EU-Kommission geht es darum, dass sich die Digitalkonzerne an die Regeln halten. Sie sollen Änderungen vorschlagen und ihren Plan von einer unabhängigen Kontrollstelle prüfen lassen. Danach entscheidet die EU-Kommission, ob die Änderungen ausreichen. Wenn nicht, kann sie weitere Änderungen verlangen, oder die Plattform wird für alle unter 18-Jährigen gesperrt.
Stellt die Kommission fest, dass ein Betreiber gegen seine eigenen Zusagen oder die Altersgrenzen verstößt, kann sie Bußgelder verhängen. Dabei gelten die Regeln aus dem bestehenden EU-Gesetz für digitale Dienste (Digital Services Act, DSA). Es sieht Bußgelder von bis zu sechs Prozent des weltweiten Jahresumsatzes vor. Die bisher verhängten Strafen vielen aber deutlich geringer aus.
Wann könnten die Regeln greifen?
Die Vorschläge gehen nun in die Verhandlungen im Europaparlament und im Rat der 27 EU-Länder. Dieses Verfahren dauert in der Regel Monate und kann die Pläne auch über den Haufen werfen. Mehrere EU-Länder, darunter Frankreich und Dänemark, wollen eine höhere Altersgrenze festlegen, etwa bei 15 Jahren.
In Deutschland hat sich eine Expertenkommission für die von der Kommission vorgeschlagene Altersgrenze von 13 Jahren ausgesprochen.
Laut Urteil haftet Meta „unmittelbar als Täter“ für Nutzerinhalte. Das Urteil ist noch nicht rechtskräftig; Meta kann Berufung einlegen. (Archivbild) - Foto: Imen Ben Youssef / Hans Lucas / AFP via Getty Images
Wenn unbekannte Dritte in betrügerischer Absicht das Logo eines Unternehmens und Bilder seines bekannten Gründers auf Instagram oder Facebook für Werbung nutzen, haftet das Mutterunternehmen Meta unter anderem auf Unterlassung und Schadensersatz. Das hat die Wettbewerbskammer des Landgerichts Frankfurt am Main am Mittwoch entschieden (Az.: 2-06 O 234/25).
Finanzfluss und Gründer Thomas Kehl
Das klagende Unternehmen Finanzfluss betreibt ein Internetportal mit Vergleichsrechnern und Testberichten für Finanzprodukte sowie einem Verbraucherratgeber zu Finanzthemen. „Das Unternehmen verfügt über eine Wort-Bildmarke“, erklärte das Gericht.
Auf Instagram habe es über 600.000 Follower, auf Facebook rund 29.000. Der ebenfalls klagende Gründer und Geschäftsführer des Unternehmens, Thomas Kehl, sei „aufgrund seiner Mitwirkung in zahlreichen Videos und einem Podcast zu Finanzthemen öffentlich bekannt. Er ist das prägende Gesicht des Unternehmens“, erklärte das Gericht.
Seit einiger Zeit hätten fremde Nutzer auf Instagram und Facebook „unter Verwendung der Wort-Bildmarke des Unternehmens und des Namens sowie Bildnisses seines Gründers“ Werbung und Postings zu finanzmarktbezogenen Themen veröffentlicht, erklärte das Gericht. In „mutmaßlich betrügerischer Absicht“ seien über einen Link bestimmte Investments empfohlen worden.
Hunderte Meldungen – Löschung oft erst nach Wochen
Mehrere geschädigte Nutzer wandten sich den Angaben zufolge deshalb bereits an die Kläger, die wiederum allein im Monat August 2024 über ein dafür vorgesehenes Tool fast 260 Verstöße an Meta meldeten.
Meta habe die Fake-Werbungen in einer Zeitspanne von bis zu 62 Tagen gelöscht, es sei aber zu neuen identischen oder sinngleichen Veröffentlichungen gekommen. Das Landgericht Frankfurt am Main gab nun der Klage des Unternehmens sowie seines Gründers gegen Meta statt.
Meta müsse Fake-Profile und Betrugsanzeigen mit Name und Foto von Thomas Kehl oder dem Namen Finanzfluss künftig selbst herausfiltern, bevor sie überhaupt erscheinen, erklärte das Unternehmen. „Taucht trotzdem eine neue Anzeige auf, kann Finanzfluss direkt gegen Meta vorgehen.“
Bei jedem Verstoß drohe ein Ordnungsgeld in Höhe von bis zu 250.000 Euro. Außerdem habe das Gericht einen Auskunftsanspruch gewährt. Er beinhalte die Offenlegung der mit Betrugsanzeigen erwirtschafteten Werbeeinnahmen.
Unternehmen: Urteil geht über den Einzelfall hinaus
Das Urteil gehe weit über den Einzelfall hinaus, erklärte das Unternehmen. Bislang habe sich der Meta-Konzern darauf berufen, für Inhalte seiner Nutzer nicht verantwortlich zu sein, solange er gemeldete Verstöße löscht.
Das Gericht habe in seinem Urteil aber festgestellt, dass Meta „unmittelbar als Täter für die Inhalte seiner Nutzer“ haftet. „Dieser strenge Maßstab lässt sich auf alle übertragen, deren Rechte in sozialen Netzwerken verletzt werden“, erklärte das Unternehmen.
Das Urteil ist noch nicht rechtskräftig. Meta kann Berufung einlegen. (afp/red)
Australien ist weltweiter Vorreiter beim Social-Media-Verbot für Kinder und Jugendliche. Nun will die EU nachziehen (Symbolbild). - Foto: Annette Riedl/dpa/dpa-tmn
Die EU-Kommission hat den „Kids Act“ auf den Weg gebracht, mit dem die Online-Sicherheit von Kindern in der Europäischen Union verbessert werden soll.
Der Vorschlag sieht, wie im Vorfeld von EU-Kommissionspräsidentin Ursula von der Leyen angekündigt, vor, dass soziale Medien für Kinder unter 13 Jahren nicht mehr zugänglich sein dürfen.
Zudem wird ein EU-weit einheitliches Mindestalter von 15 Jahren für die Eröffnung eines eigenen Kontos für Minderjährige festgelegt. Damit soll ein schrittweiser Ansatz gewährleistet werden. Die Anbieter sollen nachweisen, dass ihre Dienste altersgerecht und sicher gestaltet sind.
Für Jugendliche unter 18 Jahren solle es kein endloses Scrollen, keine Nachrichten von Fremden und nachts keine Benachrichtigungen mehr geben, schlug die Kommission vor.
Die Unternehmen sollen der Kommission und einer unabhängigen Kontrollstelle Änderungen vorlegen, mit denen sie die Regeln einhalten wollen. Reichen die Pläne nicht aus, sollen die Plattformen nach von der Leyens Worten für alle Minderjährigen gesperrt werden, bis ausreichend Änderungen vorgenommen wurden.
Überprüfung: Die Alterskontrolle ist ein Knackpunkt. Schon jetzt schreiben große Plattformen ein Mindestalter von 13 Jahren vor. Sie setzen das aus Sicht der Brüsseler Internetwächter aber nicht ausreichend durch. Für die technische Umsetzung sollen sie eine EU-App oder andere Lösungen nutzen können. Die digitale Brieftasche EUDI-Wallet der EU-Kommission soll Anfang 2027 auch in Deutschland verfügbar sein. Darin soll es eine Möglichkeit der Altersverifikation geben.
Brieftasche: Vorgesehen ist, dass Nutzerinnen und Nutzer mit der EUDI-Wallet ein bestimmtes Mindestalter nachweisen, ohne dabei persönliche Daten wie Name oder Geburtsdatum zu speichern oder an die großen Online-Plattformen weiterzugeben. Kommt das Gesetz wie geplant, müssten voraussichtlich auch ältere Nutzer beliebter Online-Angebote so ihr Alter verifizieren.
Einschätzung: Aus Sicht von Stephan Dreyer vom Leibniz-Institut für Medienforschung/Hans-Bredow-Institut (HBI) ist insbesondere die geplante Altersüberprüfungspflicht rechtlich problematisch: Wenn sämtliche Menschen ihr Alter gegenüber den Angeboten nachweisen müssten, betreffe das die Informationsfreiheit und die Meinungsfreiheit in ihrem Kern. Kritisch sah er in einer Stellungnahme auch eine technische Lücke: „Wenn Eltern für ihre Kinder Accounts einrichten sollen, dann fehlt bislang vollständig eine niedrigschwellige Nachweismöglichkeit, dass man tatsächlich für eine konkrete minderjährige Person das Sorgerecht in Anspruch nehmen darf. Es reichte dann, dass irgendeine erwachsene Person behauptet, für einen Minderjährigen einen Account einrichten zu dürfen.“
Verstöße: Die EU-Kommission soll über Verstöße innerhalb von 90 Tagen entscheiden. Für die Unternehmen kann es teuer werden – bis zu 6 Prozent ihres weltweiten Jahresumsatzes können als Strafe verhängt werden.
Ausnahmen: Ausgenommen sein von den Regeln sollen unter anderem Bildungsangebote und von Behörden entwickelte und betriebene Dienste, die ausschließlich in deren Auftrag genutzt werden, da sie dem Vorschlag zufolge voraussichtlich keine Gefahr für Minderjährige darstellen.
KI-Begleiter: Zu KI-Begleitern soll es besondere Vorgaben geben. Dabei geht es um KI-Chatbots, die darauf ausgelegt sind, ihren Nutzern emotionale Unterstützung zu geben. Sie müssen dem Vorschlag zufolge so gestaltet werden, dass Kinder keine emotionale Abhängigkeit entwickeln und schädliche Interaktionen verhindert werden. In der Vergangenheit waren einzelne Fälle bekannt geworden, in denen KI-Anwendungen nicht richtig auf Suizid-Gedanken von Nutzern reagiert hatten.
Erwachsene: Auch Erwachsene betreffen die Vorschläge wegen der geforderten Alterskontrolle. Im Herbst will von der Leyen außerdem einen Gesetzesvorschlag machen, in dem es um alle Altersgruppen geht – denn nicht nur Kinder seien betroffen, wenn Algorithmen süchtig machten.
Plattformen müssen Sicherheit nachweisen
Von der Leyen erklärte, dass Kinder heute mit den fortschrittlichsten Technologien interagierten, die nicht mit Blick auf ihr Wohlbefinden entwickelt worden seien. „Mit unserem Kids-Act kehren wir die Beweislast um – nun müssen die Plattformen nachweisen, dass sie von Grund auf sicher sind.“
Man gebe den Eltern wieder die Kontrolle zurück und statte sie mit den notwendigen Mitteln aus, um ihren Kindern zu helfen, sich in einer sichereren Online-Welt zurechtzufinden.
Die EU will mit ihren Vorschlägen verhindern, dass die Plattformen Jugendliche abhängig machen. Die Technologien seien nicht darauf ausgelegt, Kinder zu schützen, sagte von der Leyen. „Das Ziel ist es, unsere Kinder online zu halten und mit ihrer Aufmerksamkeit Geld zu verdienen“, fügte sie hinzu.
Social-Media-Plattformen, aber auch Onlinespiele sollen für Jugendliche deshalb künftig anders aussehen. Süchtig machende Algorithmen sollen abgestellt werden, stattdessen sollen Jugendliche selbst entscheiden können, was ihnen angezeigt wird.
Die Profile aller Jugendlichen unter 18 Jahren sollen standardmäßig privat eingestellt sein, ohne Zugriff auf KI-Chatbots, den Standort, die Kamera oder das Mikrofon. Ab 15 Jahren können Jugendliche diese Funktionen selbstständig aktivieren.
Der „Kids Act“ basiert konkret auf vier Säulen: der Verzögerung der Nutzung sozialer Medien, „Sicherheit durch Design“, „altersgerechten Datenschutzmaßnahmen“ sowie einer „effektiven Durchsetzung“ der Maßnahmen.
Für Kinder unter 13 Jahren soll es keine Social-Media-Plattformen, aber spezielle „kinderfreundliche“ Dienste geben. Nach Vorstellung der EU-Kommission könnten Eltern beispielsweise einen Kinderbereich in ihrem eigenen Profil einrichten, wie es ihn heute schon bei manchen Streaming-Diensten gibt. Diese Dienste sollen Kinder pro Tag höchstens eine Stunde lang nutzen können.
Kinder unter 15 Jahren sollen nur mit elterlicher Kontrolle auf soziale Medien zugreifen können. Online-Dienste müssen nach dem Willen der EU-Kommission zudem Funktionen wie unendliches Scrollen und unerwünschte Kontakte von Fremden unterbinden.
Der Gesetzgebungsvorschlag wurde bereits dem Europäischen Parlament und dem Rat vorgelegt, um das Gesetzgebungsverfahren zu seiner Prüfung und Verabschiedung einzuleiten.
Diese Verhandlungen dauern in der Regel mehrere Monate. Bundesfamilienministerin Karin Prien (CDU) will für Deutschland deshalb noch vor Jahresende eine mögliche Übergangslösung vorlegen. (dts/afp/dpa/red)
Australien ist weltweiter Vorreiter beim Social-Media-Verbot für Kinder und Jugendliche. Nun will die EU nachziehen (Symbolbild). - Foto: Annette Riedl/dpa/dpa-tmn
Die EU-Kommission hat den „Kids Act“ auf den Weg gebracht, mit dem die Online-Sicherheit von Kindern in der Europäischen Union verbessert werden soll.
Der Vorschlag sieht, wie im Vorfeld von EU-Kommissionspräsidentin Ursula von der Leyen angekündigt, vor, dass soziale Medien für Kinder unter 13 Jahren nicht mehr zugänglich sein dürfen.
Zudem wird ein EU-weit einheitliches Mindestalter von 15 Jahren für die Eröffnung eines eigenen Kontos für Minderjährige festgelegt. Damit soll ein schrittweiser Ansatz gewährleistet werden. Die Anbieter sollen nachweisen, dass ihre Dienste altersgerecht und sicher gestaltet sind.
Für Jugendliche unter 18 Jahren solle es kein endloses Scrollen, keine Nachrichten von Fremden und nachts keine Benachrichtigungen mehr geben, schlug die Kommission vor.
Die Unternehmen sollen der Kommission und einer unabhängigen Kontrollstelle Änderungen vorlegen, mit denen sie die Regeln einhalten wollen. Reichen die Pläne nicht aus, sollen die Plattformen nach von der Leyens Worten für alle Minderjährigen gesperrt werden, bis ausreichend Änderungen vorgenommen wurden.
Überprüfung: Die Alterskontrolle ist ein Knackpunkt. Schon jetzt schreiben große Plattformen ein Mindestalter von 13 Jahren vor. Sie setzen das aus Sicht der Brüsseler Internetwächter nicht ausreichend durch. Für die technische Umsetzung sollen sie eine EU-App oder andere Lösungen nutzen können. Die digitale Brieftasche EUDI-Wallet der EU-Kommission soll Anfang 2027 auch in Deutschland verfügbar sein. Darin soll es eine Möglichkeit der Altersverifikation geben.
Brieftasche: Vorgesehen ist, dass Nutzer mit der EUDI-Wallet ein bestimmtes Mindestalter nachweisen, ohne dabei persönliche Daten wie Name oder Geburtsdatum zu speichern oder an die großen Online-Plattformen weiterzugeben. Kommt das Gesetz wie geplant, müssten voraussichtlich auch ältere Nutzer beliebter Online-Angebote so ihr Alter verifizieren.
Einschätzung: Aus Sicht von Stephan Dreyer vom Leibniz-Institut für Medienforschung/Hans-Bredow-Institut (HBI) ist insbesondere die geplante Altersüberprüfungspflicht rechtlich problematisch: Wenn sämtliche Menschen ihr Alter gegenüber den Angeboten nachweisen müssten, betreffe das die Informationsfreiheit und die Meinungsfreiheit in ihrem Kern. Kritisch sah er in einer Stellungnahme auch eine technische Lücke: „Wenn Eltern für ihre Kinder Accounts einrichten sollen, dann fehlt bislang vollständig eine niedrigschwellige Nachweismöglichkeit, dass man tatsächlich für eine konkrete minderjährige Person das Sorgerecht in Anspruch nehmen darf. Es reichte dann, dass irgendeine erwachsene Person behauptet, für einen Minderjährigen einen Account einrichten zu dürfen.“
Verstöße: Die EU-Kommission soll über Verstöße innerhalb von 90 Tagen entscheiden. Für die Unternehmen kann es teuer werden – bis zu 6 Prozent ihres weltweiten Jahresumsatzes können als Strafe verhängt werden.
Ausnahmen: Ausgenommen sein von den Regeln sollen unter anderem Bildungsangebote und von Behörden entwickelte und betriebene Dienste, die ausschließlich in deren Auftrag genutzt werden, da sie dem Vorschlag zufolge voraussichtlich keine Gefahr für Minderjährige darstellen.
KI-Begleiter: Zu KI-Begleitern soll es besondere Vorgaben geben. Dabei geht es um KI-Chatbots, die darauf ausgelegt sind, ihren Nutzern emotionale Unterstützung zu geben. Sie müssen dem Vorschlag zufolge so gestaltet werden, dass Kinder keine emotionale Abhängigkeit entwickeln und schädliche Interaktionen verhindert werden. In der Vergangenheit waren einzelne Fälle bekannt geworden, in denen KI-Anwendungen nicht richtig auf Suizid-Gedanken von Nutzern reagiert hatten.
Erwachsene: Auch Erwachsene betreffen die Vorschläge wegen der geforderten Alterskontrolle. Im Herbst will von der Leyen außerdem einen Gesetzesvorschlag machen, in dem es um alle Altersgruppen geht – denn nicht nur Kinder seien betroffen, wenn Algorithmen süchtig machten.
Plattformen müssen Sicherheit nachweisen
Von der Leyen erklärte, dass Kinder heute mit den fortschrittlichsten Technologien interagierten, die nicht mit Blick auf ihr Wohlbefinden entwickelt worden seien. „Mit unserem Kids-Act kehren wir die Beweislast um – nun müssen die Plattformen nachweisen, dass sie von Grund auf sicher sind.“
Man gebe den Eltern wieder die Kontrolle zurück und statte sie mit den notwendigen Mitteln aus, um ihren Kindern zu helfen, sich in einer sichereren Online-Welt zurechtzufinden.
Die EU will mit ihren Vorschlägen verhindern, dass die Plattformen Jugendliche abhängig machen. Die Technologien seien nicht darauf ausgelegt, Kinder zu schützen, sagte von der Leyen. „Das Ziel ist es, unsere Kinder online zu halten und mit ihrer Aufmerksamkeit Geld zu verdienen“, fügte sie hinzu.
Social-Media-Plattformen, aber auch Onlinespiele sollen für Jugendliche deshalb künftig anders aussehen. Süchtig machende Algorithmen sollen abgestellt werden, stattdessen sollen Jugendliche selbst entscheiden können, was ihnen angezeigt wird.
Die Profile aller Jugendlichen unter 18 Jahren sollen standardmäßig privat eingestellt sein, ohne Zugriff auf KI-Chatbots, den Standort, die Kamera oder das Mikrofon. Ab 15 Jahren können Jugendliche diese Funktionen selbstständig aktivieren.
Der „Kids Act“ basiert konkret auf vier Säulen: der Verzögerung der Nutzung sozialer Medien, „Sicherheit durch Design“, „altersgerechten Datenschutzmaßnahmen“ sowie einer „effektiven Durchsetzung“ der Maßnahmen.
Für Kinder unter 13 Jahren soll es keine Social-Media-Plattformen, aber spezielle „kinderfreundliche“ Dienste geben. Nach Vorstellung der EU-Kommission könnten Eltern beispielsweise einen Kinderbereich in ihrem eigenen Profil einrichten, wie es ihn heute schon bei manchen Streaming-Diensten gibt. Diese Dienste sollen Kinder pro Tag höchstens eine Stunde lang nutzen können.
Kinder unter 15 Jahren sollen nur mit elterlicher Kontrolle auf soziale Medien zugreifen können. Online-Dienste müssen nach dem Willen der EU-Kommission zudem Funktionen wie unendliches Scrollen und unerwünschte Kontakte von Fremden unterbinden.
Der Gesetzgebungsvorschlag wurde bereits dem Europäischen Parlament und dem Rat vorgelegt, um das Gesetzgebungsverfahren zu seiner Prüfung und Verabschiedung einzuleiten.
Diese Verhandlungen dauern in der Regel mehrere Monate. Bundesfamilienministerin Karin Prien (CDU) will für Deutschland deshalb noch vor Jahresende eine mögliche Übergangslösung vorlegen. (dts/afp/dpa/red)
