Tag: Kinderschutz

Categories
ausland etplus gesellschaft ticker

Chatkontrolle bis 2028 verlängert – Streit um Verfahren und Abstimmung

Die vorläufige Chatkontrolle gilt nun bis April 2028. - Foto: Rolf Vennenbernd/dpa

In Kürze:

  • Die vorläufige Chatkontrolle wurde zunächst zweimal abgelehnt und anschließend per Dringlichkeitsantrag verlängert.
  • Die EVP-Fraktion berief sich dabei auf die Geschäftsordnung des EU-Parlaments.
  • EU-Abgeordneter Martin Sonneborn kritisiert das Vorgehen und spricht von einem Verstoß gegen die Regeln des Parlaments.
  • Ein Bericht kommt zu dem Ergebnis, dass eine Bewertung der Verhältnismäßigkeit der Regelung auf Grundlage der verfügbaren Daten nicht möglich ist.
 
Das Europäische Parlament hat am 9. Juli, kurz vor der Sommerpause, eine Verlängerung der Chatkontrolle beschlossen. Die Regelung war im vergangenen April nach fünf Jahren ausgelaufen und sollte nach einer Abstimmung vom 26. März zunächst nicht fortgeführt werden. Damals stimmten 311 Abgeordnete gegen eine Verlängerung, 228 dafür. Nun wurde eine Verlängerung bis April 2028 beschlossen. Maßgeblich beteiligt war die EVP-Fraktion, der unter anderem CDU und CSU angehören.

Viele Debatten, keine Mehrheit

Die Verlängerung der Übergangsregelung erlaubt Anbietern wie WhatsApp, Google und anderen weiterhin, freiwillige Erkennungsmaßnahmen gegen Material über sexuellen Kindesmissbrauch einzusetzen. Kritiker bewerten diese Möglichkeit als Eingriff in die private Kommunikation, da Inhalte auch ohne konkreten Verdacht überprüft werden können.
Der Weg zur erneuten Abstimmung war mehrstufig.
Der Abstimmung vom 26. März ging ein erstes Votum am 11. März voraus. Die Abgeordneten sollten eine Verlängerung der Chatkontrolle bis April 2028 beschließen. Dem Vorschlag der Europäischen Kommission folgte das Parlament jedoch nicht vollständig und brachte eigene Änderungsanträge ein. Anschließend verabschiedete es eine eigene Verhandlungsposition, die eine Verlängerung bis August 2027 vorsah. Eine zentrale Änderung: Das Scannen Ende-zu-Ende-verschlüsselter Kommunikation wurde gestrichen.
Mehr dazu
Anschließend begannen sogenannte Trilogverhandlungen zwischen Vertretern des Europäischen Parlaments, des Rates der Europäischen Union und der Europäischen Kommission. Da keine Einigung erzielt wurde, kam es am 26. März zu einer weiteren Abstimmung im Parlament. Der Vorschlag erreichte dabei nicht die erforderliche Mehrheit, sodass das Verfahren zunächst nicht abgeschlossen werden konnte.
Damit lief die bisherige Rechtsgrundlage, die Verordnung (EU) 2021/1232 („Chatkontrolle 1.0“), Anfang April nach fast fünf Jahren aus. Sie wurde am 30. Juli 2021 im Amtsblatt der EU veröffentlicht und trat am 2. August 2021 in Kraft.

Parlamentspräsidentin Metsola brachte den Antrag ein

Am 7. Juli brachte Parlamentspräsidentin Roberta Metsola einen Antrag auf Anwendung eines Dringlichkeitsverfahrens ein. Dabei ging es nicht um eine inhaltliche Änderung der bestehenden Verordnung, sondern um einen neuen Gesetzgebungsvorschlag zur Verlängerung ihrer Geltungsdauer. Die aus Malta stammende Politikerin berief sich dabei auf eine Regelung der Geschäftsordnung des Europäischen Parlaments. Dadurch konnte der Vorschlag beschleunigt behandelt und erneut auf die Tagesordnung gesetzt werden.
Der deutsche EU-Abgeordnete Martin Sonneborn (Die PARTEI) kritisierte das Vorgehen und sieht darin einen Verstoß gegen die Geschäftsordnung des Europäischen Parlaments. In einer Stellungnahme vor dem Parlament erklärte er, ein Dringlichkeitsverfahren setze „unvorhergesehene Entwicklungen“ voraus, die hier nicht vorlägen. Zudem sei das Verfahren nur für Vorschläge in erster Lesung vorgesehen. Das Dossier zur Chatkontrolle befinde sich dagegen bereits in zweiter Lesung.
Artikel 80 der Geschäftsordnung regelt nach Sonneborns Darstellung den Umgang mit solchen Fällen. Darin heißt es: „Bei Kollision haben die Regeln der zweiten Lesung Vorrang.“ Sonneborn sprach von einem „Durchprügeln“ der Chatkontrolle vor der Sommerpause und forderte Metsola auf, die Abstimmung nicht zuzulassen. Metsola schaltete sein Mikrofon nach 60 Sekunden ab. Dies sei nach den Regeln des Parlaments möglich, werde aber selten angewandt, erklärte Sonneborn anschließend auf X.
Das Parlament stimmte am 7. Juli mit 331 zu 304 Stimmen für das Dringlichkeitsverfahren. Damit war der Weg für eine weitere Abstimmung frei.
Zwei Tage später, einen Tag vor Beginn der Sommerpause, stimmte das Parlament über die Verlängerung ab. Der Antrag erhielt zwar mehr Ja- als Nein-Stimmen, verfehlte jedoch die erforderliche absolute Mehrheit. An diesem Tag nahmen 607 der 720 Abgeordneten an der Abstimmung teil.

Mehrheit der Stimmen reicht nicht aus

Zunächst stimmte das Parlament über den Standpunkt des Rates der Europäischen Union ab, den dieser nach der ersten Lesung an das Parlament zurückgegeben hatte. Kernpunkt war eine bis zum 3. April 2028 befristete Ausnahme von der ePrivacy-Richtlinie. Von den 607 abgegebenen Stimmen lehnten 314 den Standpunkt des Rates ab, 276 stimmten dagegen, 17 enthielten sich. Damit gab es unter den Abstimmenden mehr Stimmen gegen den Vorschlag als dafür. Für eine Ablehnung war jedoch eine absolute Mehrheit aller 720 Abgeordneten erforderlich. Dafür wären 361 Stimmen nötig gewesen.
In einer zweiten Abstimmung ging es um die Ablehnung der geänderten Fassung des Europäischen Parlaments. Diese enthielt unter anderem die Einschränkung, dass Maßnahmen zur Erkennung von Material über sexuellen Missbrauch von Kindern nicht auf Kommunikation mit Ende-zu-Ende-Verschlüsselung angewendet werden sollen. Auch dieser Antrag erhielt keine Mehrheit. 286 Abgeordnete stimmten gegen die Ablehnung, 276 dafür, 30 enthielten sich. Damit war die zweite Lesung abgeschlossen.
Mehr dazu
Nach der Abstimmung äußerten mehrere Abgeordnete Kritik an dem Verfahren. Die AfD-Abgeordnete Mary Khan sprach von einem „demokratischen Skandal“. „Ein Eilverfahren darf nicht dazu missbraucht werden, eine bereits abgelehnte Überwachungsregelung durch die Hintertür erneut auf die Tagesordnung zu setzen“, sagte sie.
Der Grünen-Abgeordnete Erik Marquardt bezeichnete die Entscheidung als „einen schwarzen Tag für Bürgerrechte und den Kinderschutz im Netz“. Er kritisierte, dass Plattformbetreiber dadurch weiterhin Möglichkeiten erhielten, private Kommunikation zu überprüfen. CDU/CSU warf er vor, damit keine ausreichenden Schutzmaßnahmen für Kinder zu erreichen. Das Verfahren nannte er „eine Farce“.

BSW-Abgeordneter De Masi erwartet Klagen

Der Europaabgeordnete Fabio De Masi (BSW) kritisierte die rechtliche Grundlage der Verlängerung. Auf X schrieb er: „Selbstverständlich muss Kindesmissbrauch bekämpft werden – aber nicht so und als trojanisches Pferd, um anlasslos hunderte Millionen EU-Bürger mit unzuverlässigen Algorithmen zu überwachen!“ Er kündigte an, dass er mit rechtlichen Verfahren gegen die Regelung rechne.
Sachsens Innenminister Armin Schuster begrüßte hingegen die erneute Abstimmung. „Die EVP-Fraktion hat im EU-Parlament zum Schutz unserer Kinder erfolgreich eine stabile Mehrheit vereinen können, um ein zentrales Ermittlungsinstrument im Kampf gegen Kinderpornografie und Kindesmissbrauch wieder zu reaktivieren“, sagte er laut der „WELT“.
Auch Telegram-Chef Pawel Durow äußerte Kritik an der Verlängerung. Auf seinem X-Account schrieb er: „Einst typisch für Bananenrepubliken, werden solche Tricks nun von der EU genutzt, um Überwachungsgesetze zu verabschieden.“ In einem weiteren Beitrag erklärte er, Telegram werde private Nachrichten nicht scannen.

Bericht sieht Nutzen, aber auch offene Fragen

Ein Ende November 2025 veröffentlichter Bericht zur Anwendung der Verordnung zeigt erhebliche Unterschiede bei der Datenerfassung und Berichterstattung durch Anbieter und Mitgliedstaaten. Das Papier empfiehlt daher eine stärkere Standardisierung der verfügbaren Daten und Meldungen.
Die ausgewerteten Daten zeigen, dass automatisch als mögliches Material über sexuellen Kindesmissbrauch erkannte Inhalte bei der anschließenden menschlichen Prüfung häufig bestätigt wurden. Ein Teil der Meldungen erwies sich jedoch als fehlerhaft. Die Zahl solcher Fehlmeldungen hängt unter anderem von den Einstellungen der eingesetzten Erkennungssysteme ab. Eine höhere Sensibilität kann zwar dazu beitragen, weniger Fälle zu übersehen, führt aber zugleich zu mehr Inhalten, die anschließend überprüft werden müssen.
Die Anbieter geben an, dass die eingesetzten Technologien ausschließlich zur Erkennung, Entfernung und Meldung von Material über sexuellen Kindesmissbrauch verwendet werden. Vollständige Informationen dazu, ob die Systeme dem aktuellen Stand der Technik entsprechen oder die Eingriffe in die Privatsphäre auf das notwendige Maß begrenzen, liegen laut Bericht jedoch nicht in allen Bereichen vor.
Der Bericht kommt zu dem Ergebnis, dass die verfügbaren Daten keine abschließende Bewertung der Verhältnismäßigkeit der Regelung ermöglichen. Gleichzeitig verweist er darauf, dass im Berichtszeitraum Tausende Kinder identifiziert und Millionen Bilder und Videos entfernt wurden. Die freiwilligen Meldungen hätten damit einen Beitrag zur Aufdeckung und Verhinderung weiteren Missbrauchs geleistet.
Categories
ausland ticker

EU-Parlament bringt Übergangsregel zur Chatkontrolle zurück

Am 3. April liefen die aktuellen Regeln zur sogenannten Chatkontrolle aus. Nun stehen sie vor einer erneuten Verlängerung. (Symbolbild) - Foto: Annette Riedl/dpa/dpa-tmn

In Kürze:

  • Das EU-Parlament hat per Dringlichkeitsverfahren die Grundlage für eine Verlängerung der Übergangsregelung zur Chatkontrolle geschaffen.
  • Tech-Konzerne können weiterhin freiwillig private Nachrichten automatisiert auf Missbrauchsdarstellungen und Grooming überprüfen.
  • Datenschützer warnen vor anlassloser Überwachung, Eingriffen in die Privatsphäre und möglichen Fehlalarmen durch KI.
  • Eine dauerhafte EU-Verordnung zur Chatkontrolle bleibt wegen anhaltender Meinungsverschiedenheiten zwischen Parlament, Rat und Kommission blockiert.
 
Auf Initiative der Europäischen Volkspartei (EVP) hat das EU-Parlament den Weg für eine erneute Verlängerung der im April ausgelaufenen Übergangsregelung zur sogenannten Chatkontrolle freigemacht. Mit 331 zu 304 Stimmen bei elf Enthaltungen votierten die Abgeordneten am Dienstag, 7. Juli, für einen Dringlichkeitsantrag. Parlamentspräsidentin Roberta Metsola hatte diesen auf Betreiben der Mitgliedsstaaten und der EVP-Fraktion auf die Tagesordnung gesetzt.
Damit kann das Parlament noch vor der Sommerpause am Donnerstag über eine weitere Verlängerung der Übergangsregelung abstimmen. Findet diese eine Mehrheit, würde es Tech-Konzernen wie Meta, Google oder Microsoft wieder erlaubt, freiwillig und ohne konkreten Verdacht ihre Dienste nach Material zu durchsuchen, das sexuellen Kindesmissbrauch darstellen könnte.

Bedenken verhinderten eine dauerhafte EU-Verordnung zur Chatkontrolle

Eines konkreten Verdachts bedarf es dabei nicht. Die Anbieter hatten bislang automatisiert private Nachrichten, E-Mails oder Messenger-Dienste nach entsprechendem Material gescannt. Einerseits gelten diese Maßnahmen als potenziell hilfreich im Kampf gegen Kindesmissbrauch und bei der Identifizierung von Tätern.
Mehr dazu
Andererseits gibt es Bedenken bei Datenschutzbehörden, Bürgerrechtsorganisationen und IT-Experten. Sie warnen davor, dass eine anlasslose Überwachung privater Kommunikation und eine Beeinträchtigung der Privatsphäre unbescholtener Bürger Grundrechte verletzen könnten. Außerdem seien die eingesetzten KI-Systeme nicht unfehlbar und könnten durch Fehlalarme Unschuldige in heikle Lagen bringen. Im Kern würde die Ende-zu-Ende-Verschlüsselung dadurch geschwächt oder durchbrochen.
Eine dauerhafte Verordnung auf EU-Ebene, die Kinderschutz und den Schutz persönlicher Daten und der Privatsphäre in Einklang bringen könnte, ist noch nicht in Sicht. Im Mai 2022 hatte die EU-Kommission einen ersten Verordnungsentwurf vorgelegt. Dieser hätte Anbieter von Kommunikationsdiensten oder sozialen Medien grundsätzlich zur Prüfung von Kommunikation und Dateien auf Missbrauchsmaterial und Grooming verpflichtet. Daher rührt auch die Bezeichnung „Chatkontrolle“.

Datenschützer warnen vor Massenüberwachung

Dieses Vorhaben stieß auf erhebliche Bedenken – unter anderem auch beim Bundesbeauftragten für den Datenschutz und die Informationsfreiheit (BfDI). Generell lagen die Positionen der Mitgliedstaaten weit auseinander. Auch Rat und Parlament konnten keine Einigung über den Verordnungsentwurf erzielen.
Da sich der Streit um Themen wie Verschlüsselung, Verhältnismäßigkeit oder anlasslose Massenüberwachung nicht beilegen ließ, einigte man sich auf eine Übergangslösung. Diese trat 2021/22 in Kraft. Sie erlaubte den Diensten die freiwillige Kontrolle in Form automatisierten Scans nach Missbrauchsdarstellungen und Grooming. Meta & Co. mussten nicht befürchten, sich damit Ärger auf der Grundlage der ePrivacy-Richtlinie einzuhandeln.
Mehr dazu
Die Übergangsregelung war befristet, sie wurde mehrfach verlängert. Im April 2026 lief sie jedoch aus, ohne dass sich EU-Staaten und Parlament auf eine Anschlussregelung einigen konnten. Im März stimmte das EU-Parlament mit 311 zu 228 Stimmen gegen die Verlängerung der Übergangsregel.

Dauerhafte Lösung über Chatkontrolle weiterhin nicht in Sicht

Kurz vor der Sommerpause übten mehrere EU-Kommissare Druck auf das Parlamentspräsidium aus. Sie befürchteten Rückschläge im Kampf gegen Kindesmissbrauch, falls große Tech-Konzerne ihre freiwilligen Kontrollen nicht fortsetzen könnten. Trotz des Appells mehrerer Datenschutzaufsichtsbehörden der Mitgliedstaaten setzte Parlamentspräsidentin Roberta Metsola eine erneute Abstimmung im Dringlichkeitsverfahren auf die Tagesordnung.
Da sich die angestrebte Regelung bereits in der zweiten Lesung befindet, könnte sie nur mit einer absoluten Mehrheit von 361 Stimmen aller Abgeordneten abgelehnt werden. Da im März bereits keine ausreichende Mehrheit gegen eine Verlängerung zustande kam und am letzten Tag vor der Sommerpause zahlreiche Abgeordnete möglicherweise nicht mehr anwesend sein werden, gilt eine weitere Verlängerung der Übergangsregelung als wahrscheinlich. Ein Scheitern der Abstimmung am Dienstag hätte hingegen eine Weiterleitung des Entwurfs an den zuständigen Innenausschuss zur Folge gehabt. Eine dauerhafte EU-Verordnung zum Kinderschutz ist damit jedoch weiterhin nicht näher gerückt.
Categories
ausland

Frankreich nach Mord an Elfjähriger erschüttert: Justiz soll 70.000 Kinderschutzfälle prüfen

In diesem Getreidesilo wurde die Leiche der 11-jährigen Lyhanna aufgefunden. - Foto: Lionel BONAVENTURE / AFP via Getty Images

In Kürze:

  • Elfjährige Lyhanna Ende Mai in Südwestfrankreich ermordet aufgefunden
  • Hauptverdächtiger war bereits mehrfach wegen Sexualdelikten angezeigt worden
  • Justizminister Darmanin fordert Überprüfung von 70.000 Kinderschutzfällen
  • Landesweite Proteste mit mehr als 60.000 Teilnehmern
 
Nach der Ermordung der elfjährigen Schülerin Lyhanna im südwestfranzösischen Département Gers hat Frankreichs Justizminister Gérald Darmanin den Staatsanwaltschaften ein Ultimatum gesetzt und mit einer Urlaubssperre gedroht. Er sprach von einem „totalen Versagen“ staatlicher Behörden. Das Verbrechen hat landesweit Empörung ausgelöst.
Die Ermittlungsbehörden sollen bis zum Nationalfeiertag am 14. Juli alle offenen Beschwerdefälle bearbeiten, die Gewalttaten oder sexuelle Belästigung von Kindern betreffen. Landesweit soll es 70.000 dieser Meldungen geben.

Verdächtiger im Fall Lyhanna mehrfach auffällig geworden

Das Kind war am 29. Mai nach Schulschluss in seinem Heimatort Fleurance verschwunden und anschließend als vermisst gemeldet worden. Eine groß angelegte Suchaktion blieb zunächst erfolglos. Erst als Anwohner eine ungewöhnlich hohe Konzentration von Vögeln über einem stillgelegten Getreidesilo bemerkten, wurde dort die Leiche der elfjährigen Lyhanna entdeckt. Nun sollen die genauen Todesumstände geklärt werden. Dabei geht es auch um die Frage, ob ein Sexualdelikt vorliegt.
Mehr dazu
Als Tatverdächtiger sitzt der 41-jährige Jérôme B. in Untersuchungshaft. Er ist der Vater einer Mitschülerin des Opfers. Überwachungskameras sollen zeigen, wie Lyhanna in sein Fahrzeug stieg. Zu den Vorwürfen hat sich der Verdächtige bislang nicht geäußert. Allerdings ist er kein unbeschriebenes Blatt – und genau das wirft nun Fragen auf.
Gegen Jérôme B. lagen zum Zeitpunkt der Tat bereits mehrere Anzeigen wegen mutmaßlicher pädosexueller Übergriffe vor. Bereits im August 2025 beschuldigte ihn eine Familie, ihre Tochter mehrfach vergewaltigt zu haben. Zudem soll er ein Mädchen bei einer Pyjamaparty unsittlich berührt und mit Süßigkeiten umworben haben. An einer Schule, an der er als Hilfskraft beschäftigt war, wurde er wegen „nicht adäquaten Verhaltens“ fristlos entlassen.

Mehr als 60.000 Menschen nehmen an Protestkundgebungen teil

Medienberichten zufolge soll B. noch nicht einmal zu einer Vernehmung bezüglich der Vorwürfe geladen worden sein. Dabei habe eine Staatsanwältin schon im Februar eine Vorladung beantragt. Der Justizminister spricht von einem „totalen Versagen“ staatlicher Behörden. Bislang haben mehr als 60.000 Menschen an mehr als 200 Protestkundgebungen vor Gerichten teilgenommen.
Staatsanwälte und Richtergewerkschaften weisen die gegen sie erhobenen Vorwürfe der Untätigkeit zurück. Sie verweisen auf eine chronische Unterfinanzierung der Justiz, Personalmangel und eine hohe Arbeitsbelastung. Die Forderung, sämtliche noch offenen Meldungen innerhalb eines Monats zu prüfen, halten sie für nicht umsetzbar.
Mehr dazu
Unterdessen hat die Mutter eines weiteren mutmaßlichen Opfers von Jérôme B. eine Staatshaftungsklage angekündigt. Ihr Anwalt will zudem Strafanzeige gegen Verantwortliche in Politik und Justiz erstatten. Die Tochter seiner Mandantin habe detaillierte Aussagen gegen B. gemacht. Dennoch seien die Vorwürfe nach seiner Darstellung nicht konsequent verfolgt worden. Dadurch sei es versäumt worden, den Verdächtigen rechtzeitig aus dem Verkehr zu ziehen.

Lecornu kündigt Maßnahmenpaket ein

Premierminister Sébastien Lecornu hat ein Maßnahmenpaket angekündigt, das unter anderem eine Verschärfung des Strafrechts vorsieht. Künftig sollen Ermittlungen bei Straftaten gegen Kinder innerhalb von drei Monaten abgeschlossen werden. Für Serienvergewaltiger soll zudem lebenslange Haft an die Stelle der bisherigen Höchststrafe von 20 Jahren treten.
Darüber hinaus plant die Regierung eine Reform der Verjährungsregeln, damit Täter auch nach längerer Zeit noch zur Verantwortung gezogen werden können. Opfer sollen zudem umfassendere Informationsrechte erhalten. Die geplanten Änderungen sollen in ein bereits vorbereitetes Kinderschutzgesetz einfließen, das im Juli im Parlament beraten werden soll.
Mehr dazu
Über die Ursachen und Konsequenzen des Falls herrscht innerhalb der Opposition jedoch keine Einigkeit. Marine Le Pen vom Rassemblement National unterstützt die angekündigten Strafverschärfungen grundsätzlich. Zugleich fordert sie jedoch eine tiefgreifende Reform des Justizsystems.

Fall Lyhanna: Zunehmende Angst vor sexueller Gewalt gegen Kinder

Mathilde Panot von La France insoumise fordert den Rücktritt von Justizminister Gérald Darmanin. Nach ihrer Auffassung tragen er und die Politik von Präsident Emmanuel Macron Mitverantwortung für die aktuelle Entwicklung. Sie wirft der Regierung vor, den Schutz von Frauen und Kindern nicht ausreichend priorisiert zu haben.
Auch die Grünen-Politikerin Marine Tondelier verlangt den Rücktritt des Ministers. Darüber hinaus fordert ihre Partei zusätzliche Mittel in Höhe von drei Milliarden Euro sowie ein umfassendes Gesetz zur Bekämpfung sexueller und sexistischer Gewalt.
Mehr dazu
Der Fall Lyhanna wird von vielen Beobachtern als Ausdruck einer wachsenden Sorge über sexuelle Gewalt gegen Kinder in Frankreich gewertet. Allein in Paris wurden nach offiziellen Angaben seit Jahresbeginn 132 Beschäftigte außerschulischer Betreuungseinrichtungen suspendiert. In 52 Fällen besteht der Verdacht auf sexuelle oder geschlechtsspezifische Gewalt gegen Kinder.
Gegen mehrere Betreuer hat die Staatsanwaltschaft Ermittlungen eingeleitet. Die Stadt Paris reagierte darauf mit der Ankündigung eines Aktionsplans im Umfang von 20 Millionen Euro. Vorgesehen sind unter anderem verschärfte Kontrollen sowie die Einsetzung einer unabhängigen Untersuchungskommission.
(Mit Material der französischsprachigen Epoch Times)
Categories
deutschland etplus

Ethikrat gegen pauschale Altersgrenze: „Social-Media-Verbot geht ein Stück zu weit“

Judith Simon, Sprecherin der Arbeitsgruppe „Mensch und Maschine“ des Ethikrats, im Gespräch mit Epoch Times. - Foto: Epoch Times
Pauschale Verbote und ein gesetzliches Mindestalter für soziale Medien sind nach Ansicht des Deutschen Ethikrats nicht geeignet, um den Herausforderungen der digitalen Welt zu begegnen. Epoch Times sprach mit der Philosophin Judith Simon. Sie ist stellvertretende Vorsitzende des Ethikrats sowie Sprecherin der Arbeitsgruppe „Mensch und Maschine“. Am Donnerstag, 11. Juni, stellte der Rat in Berlin 13 Empfehlungen für den digitalen Kinder- und Jugendschutz vor.
Frau Simon, ab welchem Alter sollten Kinder laut dem Ethikrat Zugang zu den sozialen Medien bekommen? Was halten Sie von einem Social-Media-Verbot, wie es in anderen Ländern umgesetzt wurde?
Wir haben uns im Deutschen Ethikrat gegen eine pauschale Altersgrenze für soziale Medien ausgesprochen. Stattdessen muss differenziert werden, welche Technologien und Medien für Kinder geeignet sind und welche nicht.

An dieser Stelle wird ein Video von Youtube angezeigt. Bitte akzeptieren Sie mit einem Klick auf den folgenden Button die Marketing-Cookies, um das Video anzusehen.

Deswegen soll es einen gestuften, risikobasierten Ansatz geben. Wenn bestimmte gefährliche Funktionen enthalten sind, dann ist es eher für Ältere geeignet. Wenn die Inhalte dagegen sehr kinderfreundlich sind, können auch jüngere Kinder die Medien nutzen.
Wir haben gesagt, dass ein Social-Media-Verbot ein Stück zu weit geht, da es die Teilhabe und Befähigung von Kindern und Jugendlichen einschränkt. Andererseits ist es zu eng, weil es die ganzen anderen digitalen Technologien wie KI-Chatbots, Messenger und so weiter aus dem Blick nimmt und sich nur auf soziale Medien fokussiert.
Generative KI erleichtert das Vortäuschen von Identitäten. Dadurch werden Anbahnungsversuche Erwachsener bei Kindern mit sexueller Absicht, das sogenannte Cybergrooming, schwerer oder gar nicht mehr erkennbar. Welche Schutzmechanismen schlägt der Ethikrat vor und inwiefern sind Gesetzgeber und Plattformbetreiber hier gefordert?
Ein großer Schwerpunkt war, dass wir gesagt haben, generative KI muss viel stärker in den Blick genommen werden, als das im Moment der Fall ist. Das muss zum einen dazu führen, dass zum Beispiel bestimmte gesetzliche Regelungen im Jugendschutz verändert werden, um auch generativer KI Rechnung zu tragen.
Und auf der anderen Seite geht es gerade um dieses Grooming und diese Anbahnung, was natürlich dann wieder ein Stück weit über die sozialen Medien hinausgeht. In sozialen Medien, auf die Kinder und Jugendliche bereits zugreifen können, sollten Anbahnungskontaktmöglichkeiten durch Fremde unterbunden oder verhindert werden. Es gibt also unterschiedliche Ansatzpunkte, einerseits bei bestimmten Einschränkungen der Nutzung generativer KI selbst und andererseits bei der Verwendungsweise, beispielsweise für Grooming.
Wo sind Plattformbetreiber und wo ist der Gesetzgeber gefordert?
Die Plattformbetreiber müssen das umsetzen. Da sie vieles nicht freiwillig umsetzen, muss der Gesetzgeber bestimmte Dinge einfordern. Ein Hebel wäre der Digital Services Act (DSA). Wir haben uns sehr stark für Lösungen auf europäischer Ebene und für eine effektivere Umsetzung des Digital Services Act ausgesprochen.
Eine Möglichkeit wäre da. Es gibt begleitende Leitlinien zu Artikel 28 des DSA, der sich mit Kinder- und Jugendschutz beschäftigt. Diese Leitlinien könnten verbindlich gemacht werden, um genau festzulegen, welche Funktionen und Features von Plattformbetreibern ausgestellt werden müssen, wenn sie ihre Services Kindern und Jugendlichen zugänglich machen.
Das erfordert jedoch Einstimmigkeit unter den Mitgliedstaaten. Ist es nicht sicherer, auch eine nationale Lösung zu finden? Oder würde diese nicht weit genug gehen?
Das Problem ist, dass alle gesetzlichen Regelungen, die Plattformbetreiber adressieren, ohnehin durch die Vollharmonisierung des Digital Services Act auf europäischer Ebene umgesetzt werden müssen. Das heißt, nationale Alleingänge adressieren ohnehin nicht wirklich die Plattformen.
Ein weiteres Problem wäre: Wenn wir jetzt unterschiedliche nationale Lösungen hätten, käme es zu einer Fragmentierung und zu noch schwereren Rechtsdurchsetzungen. Deswegen müsste es einheitliche Lösungen geben. Den DSA gibt es ja bereits. Es geht also nicht darum, neue Einigkeit zu erzielen, sondern darum, dieses Gesetz effektiver umzusetzen und diese Leitlinien in den Gesetzestext selbst zu integrieren.
Die einfache Möglichkeit, pornografische Bilder mithilfe von Deepfake-Technologie erstellen zu können, kann dazu führen, dass Kinder selbst diese nutzen, um andere Kinder zu mobben. Wie bewertet der Ethikrat diese Gefahren und wie kann dem vorgebeugt werden?
Der Umgang mit solchen Deepfakes in diesem Kontext wird ja im Moment politisch auch noch mal unabhängig diskutiert, in welcher Art und Weise auch die Verbreitung von solchen Bildern unterbunden werden soll.
Das ist ein ganz wichtiges Thema, das gar nicht nur unbedingt bei den Plattformen angesetzt werden muss. Da kann es eben nationale Lösungen geben, dass man sagt, die Verbreitung von solchen Informationen wird unter Strafe gestellt. Das haben wir uns jetzt nicht spezifisch angeschaut. Unter das Thema generative KI fällt das aber natürlich als eine neue Quelle für neue Risiken, aber auch für bekannte Risiken, ganz klar.
Wie wichtig ist ein gesamtgesellschaftlicher Ansatz beim Umgang mit Social-Media-Plattformen und generativer KI? Wie stark sind Elternhäuser und Bildungseinrichtungen gefordert, Medienkompetenz zu fördern?
Das ist sehr wichtig. Es kann nicht ausreichen, Verbote auszusprechen, sondern Menschen müssen für die Gefahren sensibilisiert werden, natürlich auch für die Chancen vieler dieser Technologien und die Art und Weise, wie man sinnvoll mit sozialen Medien oder KI umgeht. Man muss aber auch für die Probleme sensibilisiert werden, damit Kinder untereinander und Eltern mit ihren Kindern darüber reden und sich schützen können. Auch Schulen sollten einbezogen werden, um unterstützend tätig zu werden.
Wir haben auch über Kinderärztinnen und Kinderärzte gesprochen, die schon ganz früh durch die Kinderuntersuchungen, bei denen sie alle Eltern kennenlernen, sensibilisieren könnten, was die Nutzung digitaler Technologien und mögliche Schäden betrifft, auch wenn die Eltern bestimmte Praktiken vorleben.
Ich finde es sehr wichtig, dass es einen breiten gesellschaftlichen Diskurs und einen Austausch darüber gibt, wie Kinder und Jugendliche online besser geschützt werden können.
Wie würden Sie die aktuelle Situation einschätzen? Halten Sie unsere Kinder und Jugendlichen in dieser Hinsicht für fit? Oder haben Sie den Eindruck, dass diese Gefahren und Risiken noch gar nicht abschätzbar sind und noch viel Aufklärungsarbeit und Bewusstmachung nötig ist?
Ich halte Kinder und Jugendliche schon oft für fit. Aber das Problem ist, dass auch Eltern, Lehrerinnen und Lehrer, Erzieherinnen, also die gesamte Bevölkerung verstehen muss, wie diese Technologien funktionieren.
Meiner Meinung nach kann es nicht immer nur um Aufklärung gehen, die dann den Einzelnen zugemutet wird. Das Grundproblem ist, dass diese Software so gebaut ist, dass sie unsere Schwächen ausnutzt. Sie ist eben so gebaut, dass sie Aufmerksamkeit erregt.
Deshalb müssen wir unsere digitalen Umwelten so umgestalten, dass sie für Kinder und Jugendliche, aber auch für uns alle, besser geeignet sind. Dann müssen wir Kinder nicht von bestimmten Dingen fernhalten, sondern haben das Problem an der Wurzel gepackt, nämlich bei den Geschäftsmodellen dieser Onlineplattformen.
Was genau schwebt Ihnen vor, wenn Sie vorschlagen, die digitalen Umwelten umzugestalten?
Einerseits sagen wir, dass wir süchtig machende Funktionen von sozialen Medien prinzipiell verbieten sollten. Es ist die Logik hinter den Endlosfeeds und dem unendlichen Scrollen und dem Blinken und Piepen überall, damit wir mehr Zeit auf diesen Plattformen verbringen.
Das gleiche Prinzip gilt bei Chatbots. Es gibt keinen Grund, warum Chatbots einen mit „Ich“ anreden oder signalisieren müssen, dass sie einen verstehen oder hören. Diese ganze vermenschlichende Sprache von Chatbots ist überflüssig. Die Idee dahinter ist: Je mehr Zeit wir mit diesen Chatbots auf diesen Plattformen verbringen, desto mehr Datenspuren hinterlassen wir und desto mehr wissen diese Plattformen.
Und das ist das eigentliche Geschäftsmodell. Das spricht natürlich gegen die Autonomie und Selbstständigkeit der Nutzerinnen und Nutzer, diese Dinge auch mal wegzulegen. Deswegen müssen wir auch diese Geschäftsmodelle in den Blick nehmen, damit sich etwas ändern kann.
Vielen Dank für das Gespräch.
Sehr gerne.
Das Interview führte Erik Rusch.
Categories
ausland gesellschaft vital wirtschaft wissen

Wie sich Tech-Unternehmen ins Kinderzimmer einloggen

Sogenannte Dark Patterns tragen dazu bei, dass Klein – und Groß – bestimmte Apps und Geräte nur schwer beiseitelegen können. Wer die Mechanismen kennt, kann bewusst gegensteuern. - Foto: Kirill Greshnov/iStock

In Kürze:

  • Apps und Spiele verwenden gezieltes Design, um Nutzer länger zu binden, ohne dass es auf den ersten Blick zu erkennen ist.
  • Kinder sind besonders anfällig: Ihre Fähigkeit zur Selbstregulation ist noch nicht ausgereift.
  • Free-to-Play-Spiele und soziale Netzwerke setzen auf psychologische Mechanismen mit Suchtpotenzial.
  • Mit dem richtigen Wissen können Eltern gegensteuern, ohne ihren Kindern Medien grundsätzlich zu verbieten.
 
Es ist ein Konflikt, den viele Familien kennen: Das Kind sitzt vor dem Tablet, die vereinbarte Zeit ist längst vorbei und trotzdem legt es das Gerät nicht aus der Hand. Um gegenzusteuern, ist es hilfreich, zu verstehen, dass hinter diesem Verhalten oft keine bloße Trotzreaktion steckt, sondern digitale Mechanismen.
Derartige zielgerichtete Wirkweisen haben einen Namen, es handelt sich um sogenannte „Dark Patterns“ (verborgene Muster). Das sind manipulative Gestaltungselemente in Apps, Spielen, sozialen Medien und Mediatheken. Sie sollen Nutzer dazu bringen, länger auf der Plattform zu verweilen, weiterzuklicken oder Entscheidungen im Interesse der Anbieter zu treffen.
Oft sind diese kaum sichtbar, weil sie direkt in das Design eingebettet sind: auffällige Buttons, die zum Weitermachen animieren, auf der einen Seite, und schwer auffindbare „Beenden“-Optionen auf der anderen. Auch automatische Wiedergaben oder scheinbar endlose Inhalte gehören dazu.

Die Psychologie des Nicht-Aufhören-Könnens

Auffällige Reaktionen beim Abschalten, etwa Gereiztheit oder Unruhe, können auf problematische Nutzungsgewohnheiten hinweisen. Die technische Gestaltung allein erklärt jedoch nicht die starke Bindungswirkung der digitalen Medien.
Hinzu kommt das Gefühl, ständig etwas zu verpassen, bekannt als „Fear of Missing Out“ (FOMO). Entscheidend ist dabei weniger der einzelne Inhalt als die permanente Reizfolge: Neue Clips, Likes oder Belohnungen erscheinen in schneller Taktung und aktivieren immer wieder das Belohnungssystem des Gehirns, mit einem Gewöhnungseffekt, der suchtähnliche Züge annehmen kann.
Mehr dazu

Das versteckte Geschäft

Hinter vielen dieser Mechanismen steckt ein wirtschaftliches Interesse. Sogenannte Free-to-Play-Spiele (FTP) starten kostenlos, werden aber oft durch In-Game-Käufe finanziert. Belohnungssysteme motivieren Nutzer zur regelmäßigen Rückkehr, das sind sogenannte „Time Patterns“. Zugleich lösen versteckte Kaufanreize, etwa Buttons, im Spielfluss kostenpflichtige Aktionen aus, während sie kaum als solche erkennbar sind. Hier wirken Begriffe wie „freischalten“ oder „Upgrade“ nicht wie ein Bezahlvorgang und die Entscheidungen werden impulsiv getroffen.
Treffen Kinder diese Entscheidungen, kommt eine rechtliche Besonderheit zum Tragen hinzu: Minderjährige sind in Deutschland nur beschränkt geschäftsfähig, sodass kostenpflichtige Verträge grundsätzlich der elterlichen Zustimmung bedürfen. Zwar gibt es mit dem sogenannten „Taschengeldparagrafen“ eine Ausnahme, doch diese greift nur unter bestimmten Bedingungen.
In der Praxis entsteht daraus ein Graubereich: Problematisch wird es, wenn Zahlungsdaten bereits auf dem Gerät gespeichert sind. Dann reichen oft wenige Klicks für einen Kauf – auch durch Kinder. Anbieter berufen sich darauf, dass der Vorgang technisch bestätigt wurde. Für Familien ist es dann schwierig, solche Käufe rückgängig zu machen, auch wenn sie rechtlich anfechtbar sind.

Zwischen Komfort und Manipulation

Diese Mechanismen sind keine Zufallsentwicklungen, sie nutzen gezielt menschliche Wahrnehmung und Verhaltensmuster aus. Kinder und Jugendliche seien für solche Strategien besonders anfällig, warnt die Initiative „SCHAU HIN! Was dein Kind mit Medien macht“. Ihnen fehle die Erfahrung, zu durchschauen, dass sie gezielt gelenkt werden. Zudem ist ihre Fähigkeit zur Selbstregulation noch nicht vollständig entwickelt. Aber auch Ältere sind gefährdet.
Mehr dazu
Die Folgen können gravierend sein: Konzentrationsschwierigkeiten, Schlafprobleme, Reizüberflutung und ein zunehmender Kontrollverlust im Umgang mit Medien. Vor allem bei den Jüngeren besteht die Gefahr, dass sich Gewohnheiten festigen, die später nur schwer zu verändern sind. Rechtlich sind solche Praktiken in der EU bereits im Blick: Europäische Regelwerke zielen darauf ab, manipulative Gestaltungspraktiken zu unterbinden, die Transparenz gegenüber Nutzern zu stärken und besonders schutzbedürftige Gruppen – darunter Minderjährige – besser abzusichern.
Doch problematisch sind nicht nur versteckte Kostenfallen, sondern auch viele alltägliche Designentscheidungen bewegen sich rechtlich in einer Grauzone. Wenn die Option „Weiter“ groß und farblich hervorgehoben ist, während „Abbrechen“ klein und unauffällig bleibt, besteht formal eine Wahl – praktisch wird sie jedoch stark gelenkt. Dasselbe gilt für Cookie-Banner: Akzeptieren geht oft mit einem Klick, Ablehnen erfordert mehrere Schritte. Sie täuschen nicht offen, lenken aber subtil, was sie juristisch außerordentlich schwer greifbar macht.

Warum Kinder in die Falle tappen

Ein weiteres plastisches Beispiel ist die Schwierigkeit, Streaming-Angebote für Kinder überhaupt zu verlassen: Statt eines klaren „Aus“-Knopfes werden weitere Inhalte vorgeschlagen oder Pop-ups eingeblendet, die den Ausstieg systematisch erschweren – so weit, dass sogar manch Erwachsener aufgibt.
Gerade weil Kinder solche Funktionsweisen kaum erkennen können, kommt den Eltern eine wichtige Rolle zu. Dafür ist es entscheidend, manipulative Gestaltung zunächst selbst zu entschlüsseln. Oft hilft bereits ein einfacher Test, eine App oder Plattform bewusst zu verlassen. Daneben ist es sinnvoll, Kinder bei der Mediennutzung bewusst zu begleiten und gemeinsam gezielt auf bestimmte Muster zu achten, um gezielt zu sensibilisieren.
Mehr dazu
In beiden Fällen stellen sich dieselben Fragen: Wie viele Schritte sind tatsächlich nötig, um ein Video zu beenden? Startet automatisch ein neuer Inhalt? Werden große, farbige Buttons hervorgehoben, während die Option zum Beenden eher unscheinbar bleibt? Auf diese Weise entwickeln Sie schrittweise ein bewussteres Verständnis für digitale Angebote – für Sie selbst und für Ihre Kinder.

Kinder stark machen: kleine Hebel, große Wirkung

Im Alltag hilft es, die Komfortfunktion gezielt zu deaktivieren. Das ist nicht immer möglich, automatische Wiedergabe ist hier jedoch oft eine Ausnahme. Medienpädagogische Stellen empfehlen zudem klare Zeitregeln, gemeinsame Medienzeiten und regelmäßige Gespräche über Inhalte und digitale Mechanismen. So können Kinder lernen, dass Apps und Spiele nicht neutral sind, sondern Ziele verfolgen.
Neben festen Bildschirmzeiten – und deren konsequenter Einhaltung – sind auch bewusste Offline-Phasen hilfreich. Ebenso wichtig ist es, auf Veränderungen im Verhalten zu achten: Rückzug, Reizbarkeit oder Schlafprobleme können Hinweise auf eine problematische Nutzung sein.
Mehr dazu

Nicht verbieten, sondern verstehen

Medien zu verbieten, kann nicht das Ziel sein, denn Verbotenes lockt. Entscheidend ist, die Risiken zu kennen. Wer die Mechanismen hinter scheinbar harmlosen Angeboten versteht, kann Kinder dabei unterstützen, digitale Medien bewusst zu nutzen, als Werkzeug und zur zeitlich begrenzten Unterhaltung.
Denn was kein Algorithmus ersetzen kann, sind echte Begegnungen, freies Spiel und sinnliche Erlebnisse außerhalb der Zweidimensionalität des Bildschirms. Eben das sind die erfüllenden und existenziellen Erfahrungen, die für die Entwicklung des Kindes und sein persönliches Glück unverzichtbar sind.