Categories
deutschland gesellschaft

Fachleute empfehlen kein pauschal strenges Social-Media-Verbot

In der Debatte über den Zugang von Kindern und Jugendlichen zur digitalen Welt rät die vom Familienministerium eingesetzte Expertenkommission von einem strengen pauschalen Social-Media-Verbot ab.
Stattdessen legte das Gremium am Mittwoch zwei mögliche alternative Ansätze vor: entweder eine gesetzliche Mindestaltersgrenze von 13 Jahren für Social-Media-Accounts oder eine Beschränkung für einzelne Dienste je nach Risiko der Angebote. Ein „pauschal hohes Mindestalter“ von 15 oder 16 Jahren greife hingegen zu kurz.

Prien plädiert für 13 als gesetzliche Altersgrenze

Familienministerin Karin Prien plädiert für eine gesetzliche Altersgrenze von 13 Jahren für die eigenständige Nutzung sozialer Medien wie TikTok, Instagram oder Snapchat. Das halte sie grundsätzlich für den richtigen Weg, teilte die CDU-Politikerin in Berlin mit.
Geregelt werden soll dies nach ihren Worten auf europäischer Ebene.
„Für den Fall, dass auf europäischer Ebene keine ausreichenden und zeitnahen Fortschritte erzielt werden, werde ich parallel die notwendigen nationalen Regelungen vorbereiten.“
Ein „gesetzlicher Erlaubnisvorbehalt“ soll es möglich machen, dass auch Kinder unter 13 Jahren „nachweislich kindgerechte und risikoarme Angebote“ nutzen können. Die Altersgrenze solle mit einer wirksamen Altersüberprüfung verbunden werden. Für Teenager zwischen 13 und 18 sollen abgestufte Schutzvorkehrungen gelten, betonte Prien.
Die Kommission empfahl zugleich, „nationale Alleingänge“ in dieser Frage zu vermeiden. Stattdessen müsse der entsprechende Artikel im EU-Gesetz für digitale Dienste (Digital Services Act, DSA) konkretisiert werden. Dieser „bleibt zu allgemein, und es fehlen wirksame Altersprüfungen“. Außerdem würden die unterschiedlichen Dienste dort gleich behandelt.

56 Empfehlungen

Die 18 Fachleute der Expertenkommission „Kinder- und Jugendschutz in der digitalen Welt“ übergaben ihre insgesamt 56 Empfehlungen an Familienministerin Karin Prien (CDU), die zugleich für Bildung und Jugend zuständig ist. Die Empfehlungen sollen in Gesetze münden.
Das Gremium legte noch eine ganze Reihe weiterer Vorschläge vor, die sich an dem Prinzip Schutz, Befähigung und Teilhabe von Kindern und Jugendlichen orientieren. Weil die digitale Welt aus deren Alltag nicht mehr wegzudenken sei, müsse auch ein „pauschaler Ausschluss“ verhindert werden. Zugleich dürfe die Verantwortung nicht auf die jungen Menschen abgewälzt werden.
In ihren Empfehlungen trennen die Fachleute daher verschiedene Altersphasen voneinander ab und richten sich an unterschiedliche Akteure, die sie in der Verantwortung sehen: Eltern und Familie, Schulen, die Kinder- und Jugendhilfe, Ärzte, Beschwerdestellen, die Forschung sowie die Plattformanbieter selbst.
Zu den Vorschlägen gehört zum Beispiel auch, den Schutz von Kindern vor Vernachlässigung „einschließlich digitaler Vernachlässigung“ ins Bürgerliche Gesetzbuch aufzunehmen.

Die Eltern beraten: „Bildschirmfrei bis drei“

Außerdem müssten Eltern und Familien schon vor der Geburt zu digitalen Medien beraten und unterstützt werden – hier gelte das Prinzip „bildschirmfrei bis drei“. Ärzte sollten das Thema Mediennutzung auch in die Regeluntersuchungen und die Schuleingangsuntersuchungen integrieren.
Für die Schulen empfiehlt die Kommission eine „weitgehende Einschränkung der privaten Nutzung“ von Smartphones. Bis einschließlich Klasse sieben sollte die private Nutzung im Unterricht, in außerunterrichtlichen Angeboten und in den Pausen „bundesweit einheitlich untersagt und in den Schulgesetzen verankert werden“.
Das Gremium schlägt außerdem analog zum Schwimmenlernen ein verpflichtendes „KI Seepferdchen“ vor – ein online erwerbbares, kindgerechtes Zertifikat zu Möglichkeiten und Gefahren des Einsatzes von Künstlicher Intelligenz.

Plattformen in die Pflicht nehmen

„Kinder- und Jugendliche aus der digitalen Welt auszusperren, ist kein Schutz“, erklärte der Ko-Vorsitzende der Kommission, Olaf Köller. Daher seien drei Aspekte wichtig: „Kinder und Jugendliche vor dem zu bewahren, dem sie noch nicht gewachsen sind, sie zu befähigen, ihr digitales Leben selbst in die Hand zu nehmen und ihnen die Teilhabe zu ermöglichen, auf die sie ein Recht haben.“ Köller:
„Nicht das Kind muss sich an die digitale Welt anpassen, sondern die digitale Welt an das Kind. Kinder- und Jugendliche aus der digitalen Welt auszusperren, ist kein Schutz.“
Die Ko-Vorsitzende Nadine Schön ergänzte, die digitale Welt müsse sich an den Rechten, Bedürfnissen und Entwicklungsmöglichkeiten von Kindern und Jugendlichen ausrichten. „Nicht umgekehrt.“
Insgesamt plädieren die Experten dafür, weniger die Kinder und Jugendlichen in die Pflicht zu nehmen als die Plattformanbieter. Sie empfehlen „einen verbindlichen Katalog sicherer und altersgerechter Voreinstellungen“, die vor allem die Suchtgefahr eindämmen sollen.
So sollen keine algorithmisch gesteuerten Feeds oder Empfehlungssysteme mehr möglich sein, keine personalisierte Inhaltsausspielung und keine personalisierte Werbung, keine suchtverstärkenden Endlos-Feeds oder Appelle wie „Deine Freunde warten auf dich“.
Auch Prien betonte, hier warte eine gesamtgesellschaftliche Aufgabe für Bund, Länder, Kommunen, Wissenschaft, Schulen, Jugendhilfe und Familien. „Unser Ziel ist eine zukunftsorientierte Gesamtstrategie, die Schutz, Befähigung und Teilhabe gleichermaßen stärkt und Regulierung, Bildung sowie Prävention intelligent miteinander verbindet“, sagte die CDU-Politikerin. (afp/dpa/red)
Categories
deutschland etplus

Ethikrat gegen pauschale Altersgrenze: „Social-Media-Verbot geht ein Stück zu weit“

Pauschale Verbote und ein gesetzliches Mindestalter für soziale Medien sind nach Ansicht des Deutschen Ethikrats nicht geeignet, um den Herausforderungen der digitalen Welt zu begegnen. Epoch Times sprach mit der Philosophin Judith Simon. Sie ist stellvertretende Vorsitzende des Ethikrats sowie Sprecherin der Arbeitsgruppe „Mensch und Maschine“. Am Donnerstag, 11. Juni, stellte der Rat in Berlin 13 Empfehlungen für den digitalen Kinder- und Jugendschutz vor.
Frau Simon, ab welchem Alter sollten Kinder laut dem Ethikrat Zugang zu den sozialen Medien bekommen? Was halten Sie von einem Social-Media-Verbot, wie es in anderen Ländern umgesetzt wurde?
Wir haben uns im Deutschen Ethikrat gegen eine pauschale Altersgrenze für soziale Medien ausgesprochen. Stattdessen muss differenziert werden, welche Technologien und Medien für Kinder geeignet sind und welche nicht.

An dieser Stelle wird ein Video von Youtube angezeigt. Bitte akzeptieren Sie mit einem Klick auf den folgenden Button die Marketing-Cookies, um das Video anzusehen.

Deswegen soll es einen gestuften, risikobasierten Ansatz geben. Wenn bestimmte gefährliche Funktionen enthalten sind, dann ist es eher für Ältere geeignet. Wenn die Inhalte dagegen sehr kinderfreundlich sind, können auch jüngere Kinder die Medien nutzen.
Wir haben gesagt, dass ein Social-Media-Verbot ein Stück zu weit geht, da es die Teilhabe und Befähigung von Kindern und Jugendlichen einschränkt. Andererseits ist es zu eng, weil es die ganzen anderen digitalen Technologien wie KI-Chatbots, Messenger und so weiter aus dem Blick nimmt und sich nur auf soziale Medien fokussiert.
Generative KI erleichtert das Vortäuschen von Identitäten. Dadurch werden Anbahnungsversuche Erwachsener bei Kindern mit sexueller Absicht, das sogenannte Cybergrooming, schwerer oder gar nicht mehr erkennbar. Welche Schutzmechanismen schlägt der Ethikrat vor und inwiefern sind Gesetzgeber und Plattformbetreiber hier gefordert?
Ein großer Schwerpunkt war, dass wir gesagt haben, generative KI muss viel stärker in den Blick genommen werden, als das im Moment der Fall ist. Das muss zum einen dazu führen, dass zum Beispiel bestimmte gesetzliche Regelungen im Jugendschutz verändert werden, um auch generativer KI Rechnung zu tragen.
Und auf der anderen Seite geht es gerade um dieses Grooming und diese Anbahnung, was natürlich dann wieder ein Stück weit über die sozialen Medien hinausgeht. In sozialen Medien, auf die Kinder und Jugendliche bereits zugreifen können, sollten Anbahnungskontaktmöglichkeiten durch Fremde unterbunden oder verhindert werden. Es gibt also unterschiedliche Ansatzpunkte, einerseits bei bestimmten Einschränkungen der Nutzung generativer KI selbst und andererseits bei der Verwendungsweise, beispielsweise für Grooming.
Wo sind Plattformbetreiber und wo ist der Gesetzgeber gefordert?
Die Plattformbetreiber müssen das umsetzen. Da sie vieles nicht freiwillig umsetzen, muss der Gesetzgeber bestimmte Dinge einfordern. Ein Hebel wäre der Digital Services Act (DSA). Wir haben uns sehr stark für Lösungen auf europäischer Ebene und für eine effektivere Umsetzung des Digital Services Act ausgesprochen.
Eine Möglichkeit wäre da. Es gibt begleitende Leitlinien zu Artikel 28 des DSA, der sich mit Kinder- und Jugendschutz beschäftigt. Diese Leitlinien könnten verbindlich gemacht werden, um genau festzulegen, welche Funktionen und Features von Plattformbetreibern ausgestellt werden müssen, wenn sie ihre Services Kindern und Jugendlichen zugänglich machen.
Das erfordert jedoch Einstimmigkeit unter den Mitgliedstaaten. Ist es nicht sicherer, auch eine nationale Lösung zu finden? Oder würde diese nicht weit genug gehen?
Das Problem ist, dass alle gesetzlichen Regelungen, die Plattformbetreiber adressieren, ohnehin durch die Vollharmonisierung des Digital Services Act auf europäischer Ebene umgesetzt werden müssen. Das heißt, nationale Alleingänge adressieren ohnehin nicht wirklich die Plattformen.
Ein weiteres Problem wäre: Wenn wir jetzt unterschiedliche nationale Lösungen hätten, käme es zu einer Fragmentierung und zu noch schwereren Rechtsdurchsetzungen. Deswegen müsste es einheitliche Lösungen geben. Den DSA gibt es ja bereits. Es geht also nicht darum, neue Einigkeit zu erzielen, sondern darum, dieses Gesetz effektiver umzusetzen und diese Leitlinien in den Gesetzestext selbst zu integrieren.
Die einfache Möglichkeit, pornografische Bilder mithilfe von Deepfake-Technologie erstellen zu können, kann dazu führen, dass Kinder selbst diese nutzen, um andere Kinder zu mobben. Wie bewertet der Ethikrat diese Gefahren und wie kann dem vorgebeugt werden?
Der Umgang mit solchen Deepfakes in diesem Kontext wird ja im Moment politisch auch noch mal unabhängig diskutiert, in welcher Art und Weise auch die Verbreitung von solchen Bildern unterbunden werden soll.
Das ist ein ganz wichtiges Thema, das gar nicht nur unbedingt bei den Plattformen angesetzt werden muss. Da kann es eben nationale Lösungen geben, dass man sagt, die Verbreitung von solchen Informationen wird unter Strafe gestellt. Das haben wir uns jetzt nicht spezifisch angeschaut. Unter das Thema generative KI fällt das aber natürlich als eine neue Quelle für neue Risiken, aber auch für bekannte Risiken, ganz klar.
Wie wichtig ist ein gesamtgesellschaftlicher Ansatz beim Umgang mit Social-Media-Plattformen und generativer KI? Wie stark sind Elternhäuser und Bildungseinrichtungen gefordert, Medienkompetenz zu fördern?
Das ist sehr wichtig. Es kann nicht ausreichen, Verbote auszusprechen, sondern Menschen müssen für die Gefahren sensibilisiert werden, natürlich auch für die Chancen vieler dieser Technologien und die Art und Weise, wie man sinnvoll mit sozialen Medien oder KI umgeht. Man muss aber auch für die Probleme sensibilisiert werden, damit Kinder untereinander und Eltern mit ihren Kindern darüber reden und sich schützen können. Auch Schulen sollten einbezogen werden, um unterstützend tätig zu werden.
Wir haben auch über Kinderärztinnen und Kinderärzte gesprochen, die schon ganz früh durch die Kinderuntersuchungen, bei denen sie alle Eltern kennenlernen, sensibilisieren könnten, was die Nutzung digitaler Technologien und mögliche Schäden betrifft, auch wenn die Eltern bestimmte Praktiken vorleben.
Ich finde es sehr wichtig, dass es einen breiten gesellschaftlichen Diskurs und einen Austausch darüber gibt, wie Kinder und Jugendliche online besser geschützt werden können.
Wie würden Sie die aktuelle Situation einschätzen? Halten Sie unsere Kinder und Jugendlichen in dieser Hinsicht für fit? Oder haben Sie den Eindruck, dass diese Gefahren und Risiken noch gar nicht abschätzbar sind und noch viel Aufklärungsarbeit und Bewusstmachung nötig ist?
Ich halte Kinder und Jugendliche schon oft für fit. Aber das Problem ist, dass auch Eltern, Lehrerinnen und Lehrer, Erzieherinnen, also die gesamte Bevölkerung verstehen muss, wie diese Technologien funktionieren.
Meiner Meinung nach kann es nicht immer nur um Aufklärung gehen, die dann den Einzelnen zugemutet wird. Das Grundproblem ist, dass diese Software so gebaut ist, dass sie unsere Schwächen ausnutzt. Sie ist eben so gebaut, dass sie Aufmerksamkeit erregt.
Deshalb müssen wir unsere digitalen Umwelten so umgestalten, dass sie für Kinder und Jugendliche, aber auch für uns alle, besser geeignet sind. Dann müssen wir Kinder nicht von bestimmten Dingen fernhalten, sondern haben das Problem an der Wurzel gepackt, nämlich bei den Geschäftsmodellen dieser Onlineplattformen.
Was genau schwebt Ihnen vor, wenn Sie vorschlagen, die digitalen Umwelten umzugestalten?
Einerseits sagen wir, dass wir süchtig machende Funktionen von sozialen Medien prinzipiell verbieten sollten. Es ist die Logik hinter den Endlosfeeds und dem unendlichen Scrollen und dem Blinken und Piepen überall, damit wir mehr Zeit auf diesen Plattformen verbringen.
Das gleiche Prinzip gilt bei Chatbots. Es gibt keinen Grund, warum Chatbots einen mit „Ich“ anreden oder signalisieren müssen, dass sie einen verstehen oder hören. Diese ganze vermenschlichende Sprache von Chatbots ist überflüssig. Die Idee dahinter ist: Je mehr Zeit wir mit diesen Chatbots auf diesen Plattformen verbringen, desto mehr Datenspuren hinterlassen wir und desto mehr wissen diese Plattformen.
Und das ist das eigentliche Geschäftsmodell. Das spricht natürlich gegen die Autonomie und Selbstständigkeit der Nutzerinnen und Nutzer, diese Dinge auch mal wegzulegen. Deswegen müssen wir auch diese Geschäftsmodelle in den Blick nehmen, damit sich etwas ändern kann.
Vielen Dank für das Gespräch.
Sehr gerne.
Das Interview führte Erik Rusch.