Pauschale Verbote und ein gesetzliches Mindestalter für soziale Medien sind nach Ansicht des Deutschen Ethikrats nicht geeignet, um den Herausforderungen der digitalen Welt zu begegnen. Epoch Times sprach mit der Philosophin Judith Simon. Sie ist stellvertretende Vorsitzende des Ethikrats sowie Sprecherin der Arbeitsgruppe „Mensch und Maschine“. Am Donnerstag, 11. Juni, stellte der Rat in Berlin 13 Empfehlungen für den digitalen Kinder- und Jugendschutz vor.
Frau Simon, ab welchem Alter sollten Kinder laut dem Ethikrat Zugang zu den sozialen Medien bekommen? Was halten Sie von einem Social-Media-Verbot, wie es in anderen Ländern umgesetzt wurde?
Wir haben uns im Deutschen Ethikrat gegen eine pauschale Altersgrenze für soziale Medien ausgesprochen. Stattdessen muss differenziert werden, welche Technologien und Medien für Kinder geeignet sind und welche nicht.
An dieser Stelle wird ein Video von Youtube angezeigt. Bitte akzeptieren Sie mit einem Klick auf den folgenden Button die Marketing-Cookies, um das Video anzusehen.
Deswegen soll es einen gestuften, risikobasierten Ansatz geben. Wenn bestimmte gefährliche Funktionen enthalten sind, dann ist es eher für Ältere geeignet. Wenn die Inhalte dagegen sehr kinderfreundlich sind, können auch jüngere Kinder die Medien nutzen.
Wir haben gesagt, dass ein Social-Media-Verbot ein Stück zu weit geht, da es die Teilhabe und Befähigung von Kindern und Jugendlichen einschränkt. Andererseits ist es zu eng, weil es die ganzen anderen digitalen Technologien wie KI-Chatbots, Messenger und so weiter aus dem Blick nimmt und sich nur auf soziale Medien fokussiert.
Generative KI erleichtert das Vortäuschen von Identitäten. Dadurch werden Anbahnungsversuche Erwachsener bei Kindern mit sexueller Absicht, das sogenannte Cybergrooming, schwerer oder gar nicht mehr erkennbar. Welche Schutzmechanismen schlägt der Ethikrat vor und inwiefern sind Gesetzgeber und Plattformbetreiber hier gefordert?
Ein großer Schwerpunkt war, dass wir gesagt haben, generative KI muss viel stärker in den Blick genommen werden, als das im Moment der Fall ist. Das muss zum einen dazu führen, dass zum Beispiel bestimmte gesetzliche Regelungen im Jugendschutz verändert werden, um auch generativer KI Rechnung zu tragen.
Und auf der anderen Seite geht es gerade um dieses Grooming und diese Anbahnung, was natürlich dann wieder ein Stück weit über die sozialen Medien hinausgeht. In sozialen Medien, auf die Kinder und Jugendliche bereits zugreifen können, sollten Anbahnungskontaktmöglichkeiten durch Fremde unterbunden oder verhindert werden. Es gibt also unterschiedliche Ansatzpunkte, einerseits bei bestimmten Einschränkungen der Nutzung generativer KI selbst und andererseits bei der Verwendungsweise, beispielsweise für Grooming.
Wo sind Plattformbetreiber und wo ist der Gesetzgeber gefordert?
Die Plattformbetreiber müssen das umsetzen. Da sie vieles nicht freiwillig umsetzen, muss der Gesetzgeber bestimmte Dinge einfordern. Ein Hebel wäre der Digital Services Act (DSA). Wir haben uns sehr stark für Lösungen auf europäischer Ebene und für eine effektivere Umsetzung des Digital Services Act ausgesprochen.
Eine Möglichkeit wäre da. Es gibt begleitende Leitlinien zu Artikel 28 des DSA, der sich mit Kinder- und Jugendschutz beschäftigt. Diese Leitlinien könnten verbindlich gemacht werden, um genau festzulegen, welche Funktionen und Features von Plattformbetreibern ausgestellt werden müssen, wenn sie ihre Services Kindern und Jugendlichen zugänglich machen.
Das erfordert jedoch Einstimmigkeit unter den Mitgliedstaaten. Ist es nicht sicherer, auch eine nationale Lösung zu finden? Oder würde diese nicht weit genug gehen?
Das Problem ist, dass alle gesetzlichen Regelungen, die Plattformbetreiber adressieren, ohnehin durch die Vollharmonisierung des Digital Services Act auf europäischer Ebene umgesetzt werden müssen. Das heißt, nationale Alleingänge adressieren ohnehin nicht wirklich die Plattformen.
Ein weiteres Problem wäre: Wenn wir jetzt unterschiedliche nationale Lösungen hätten, käme es zu einer Fragmentierung und zu noch schwereren Rechtsdurchsetzungen. Deswegen müsste es einheitliche Lösungen geben. Den DSA gibt es ja bereits. Es geht also nicht darum, neue Einigkeit zu erzielen, sondern darum, dieses Gesetz effektiver umzusetzen und diese Leitlinien in den Gesetzestext selbst zu integrieren.
Die einfache Möglichkeit, pornografische Bilder mithilfe von Deepfake-Technologie erstellen zu können, kann dazu führen, dass Kinder selbst diese nutzen, um andere Kinder zu mobben. Wie bewertet der Ethikrat diese Gefahren und wie kann dem vorgebeugt werden?
Der Umgang mit solchen Deepfakes in diesem Kontext wird ja im Moment politisch auch noch mal unabhängig diskutiert, in welcher Art und Weise auch die Verbreitung von solchen Bildern unterbunden werden soll.
Das ist ein ganz wichtiges Thema, das gar nicht nur unbedingt bei den Plattformen angesetzt werden muss. Da kann es eben nationale Lösungen geben, dass man sagt, die Verbreitung von solchen Informationen wird unter Strafe gestellt. Das haben wir uns jetzt nicht spezifisch angeschaut. Unter das Thema generative KI fällt das aber natürlich als eine neue Quelle für neue Risiken, aber auch für bekannte Risiken, ganz klar.
Wie wichtig ist ein gesamtgesellschaftlicher Ansatz beim Umgang mit Social-Media-Plattformen und generativer KI? Wie stark sind Elternhäuser und Bildungseinrichtungen gefordert, Medienkompetenz zu fördern?
Das ist sehr wichtig. Es kann nicht ausreichen, Verbote auszusprechen, sondern Menschen müssen für die Gefahren sensibilisiert werden, natürlich auch für die Chancen vieler dieser Technologien und die Art und Weise, wie man sinnvoll mit sozialen Medien oder KI umgeht. Man muss aber auch für die Probleme sensibilisiert werden, damit Kinder untereinander und Eltern mit ihren Kindern darüber reden und sich schützen können. Auch Schulen sollten einbezogen werden, um unterstützend tätig zu werden.
Wir haben auch über Kinderärztinnen und Kinderärzte gesprochen, die schon ganz früh durch die Kinderuntersuchungen, bei denen sie alle Eltern kennenlernen, sensibilisieren könnten, was die Nutzung digitaler Technologien und mögliche Schäden betrifft, auch wenn die Eltern bestimmte Praktiken vorleben.
Ich finde es sehr wichtig, dass es einen breiten gesellschaftlichen Diskurs und einen Austausch darüber gibt, wie Kinder und Jugendliche online besser geschützt werden können.
Wie würden Sie die aktuelle Situation einschätzen? Halten Sie unsere Kinder und Jugendlichen in dieser Hinsicht für fit? Oder haben Sie den Eindruck, dass diese Gefahren und Risiken noch gar nicht abschätzbar sind und noch viel Aufklärungsarbeit und Bewusstmachung nötig ist?
Ich halte Kinder und Jugendliche schon oft für fit. Aber das Problem ist, dass auch Eltern, Lehrerinnen und Lehrer, Erzieherinnen, also die gesamte Bevölkerung verstehen muss, wie diese Technologien funktionieren.
Meiner Meinung nach kann es nicht immer nur um Aufklärung gehen, die dann den Einzelnen zugemutet wird. Das Grundproblem ist, dass diese Software so gebaut ist, dass sie unsere Schwächen ausnutzt. Sie ist eben so gebaut, dass sie Aufmerksamkeit erregt.
Deshalb müssen wir unsere digitalen Umwelten so umgestalten, dass sie für Kinder und Jugendliche, aber auch für uns alle, besser geeignet sind. Dann müssen wir Kinder nicht von bestimmten Dingen fernhalten, sondern haben das Problem an der Wurzel gepackt, nämlich bei den Geschäftsmodellen dieser Onlineplattformen.
Was genau schwebt Ihnen vor, wenn Sie vorschlagen, die digitalen Umwelten umzugestalten?
Einerseits sagen wir, dass wir süchtig machende Funktionen von sozialen Medien prinzipiell verbieten sollten. Es ist die Logik hinter den Endlosfeeds und dem unendlichen Scrollen und dem Blinken und Piepen überall, damit wir mehr Zeit auf diesen Plattformen verbringen.
Das gleiche Prinzip gilt bei Chatbots. Es gibt keinen Grund, warum Chatbots einen mit „Ich“ anreden oder signalisieren müssen, dass sie einen verstehen oder hören. Diese ganze vermenschlichende Sprache von Chatbots ist überflüssig. Die Idee dahinter ist: Je mehr Zeit wir mit diesen Chatbots auf diesen Plattformen verbringen, desto mehr Datenspuren hinterlassen wir und desto mehr wissen diese Plattformen.
Und das ist das eigentliche Geschäftsmodell. Das spricht natürlich gegen die Autonomie und Selbstständigkeit der Nutzerinnen und Nutzer, diese Dinge auch mal wegzulegen. Deswegen müssen wir auch diese Geschäftsmodelle in den Blick nehmen, damit sich etwas ändern kann.
Vielen Dank für das Gespräch.
Sehr gerne.
Das Interview führte Erik Rusch.
