In Kürze:
- Soziale Medien, Fachtexte und Nachrichten haben sich durch KI-generierte Inhalte in jüngster Zeit massiv und rasant verändert.
- Da generierte Texte auf Wahrscheinlichkeiten statt auf Verständnis beruhen, wiederholen viele Beiträge ähnliche Strukturen, ähnliche Ratschläge und ähnliche Formulierungen.
- Die Fülle an KI-Inhalten bewirkt zweierlei: Die Ergebnisse sind schön, aber unvollständig und die Trainingsdaten werden immer schlechter.
- In der Folge verlieren Menschen und Maschine gleichermaßen den Bezug zur Realität.
- Können Sie unterscheiden, was echt oder generiert ist? Probieren Sie es aus, in unserem kleinen Quiz am Ende des Artikels.
Eine nie endende Flut von mit Künstlicher Intelligenz generierten Inhalten verändert derzeit das Internet. Nicht nur beeinflusst dies auch die Art und Weise, wie Menschen mit Informationen interagieren, sondern es passiert schneller als jemals zuvor.
Egal, ob Zusammenfassungen, Nachrichten, Beiträge in sozialen Netzwerken oder wissenschaftliche Arbeiten: Wissenschaftler bringen die schiere Menge an maschinell erstellten Materialien mit einem Anstieg der „kognitiven Auslagerung“ in Verbindung. Bei diesem Phänomen überlassen Menschen kritisches Denken und Überprüfungen automatisierten Systemen.
Eine Analyse aus dem Jahr 2024 beschäftigte sich mit dem Einfluss von KI-Tools auf genau diese geistige Auslagerung. Sie ergab eine „signifikant negative Korrelation“ zwischen der häufigen Nutzung von KI-Tools und der Fähigkeit zu kritischem Denken bei Menschen aller Altersgruppen und Bildungshintergründen. Michael Gerlich von der Swiss Business School (SBS) in London kommt darin zu dem Schluss, dass gerade jüngere Altersgruppen eine höhere Abhängigkeit von KI-Modellen aufwiesen – und zugleich niedrigere Werte beim kritischen Denken erzielten.
Menge mit Glaubwürdigkeit verwechselt
Möglicherweise noch beunruhigender ist eine neue Studie vom Mai 2026 im Auftrag der internationalen PR- und Kommunikationsagentur Pangram. Die vom Marktforschungsinstitut YouGov durchgeführte Studie zeigte, dass lediglich 55 Prozent der Generation Z (18 bis 28 Jahre) irreführendes KI-Material identifizieren konnten. In den älteren Altersgruppen war diese Zahl noch niedriger.
1 / 5
Auswirkungen der Waldbrände in Kalifornien? Nein, ein KI-generiertes Bild …
Foto: gemeinfrei
Das Problem liegt indes nicht im Erkennen einzelner falscher Inhalte, sondern in deren Fülle. Javi Pérez, Herausgeber von KI-gestützten Websites zur Verbraucheraufklärung, sagte dazu gegenüber Epoch Times:
„KI-generierte Beiträge und Kommentare können die öffentliche Wahrnehmung verzerrt darstellen, insbesondere wenn Volumen mit Glaubwürdigkeit verwechselt wird.“
„Wenn ein Nutzer Dutzende ähnlicher Beiträge über ein Produkt, einen Trend, eine politische Behauptung, ein Gesundheitsthema oder ein Finanzthema sieht, geht er möglicherweise davon aus, dass breite Übereinstimmung herrscht“, so Pérez weiter.
„Selbstbewusste Gleichförmigkeit“
Pérez warnt insbesondere davor, dass KI-Inhalte das Volumen dessen erhöhen würden, was er als „selbstbewusste Gleichförmigkeit“ im Internet bezeichnet.
„Viele Artikel und Beiträge wiederholen mittlerweile ähnliche Strukturen, ähnliche Ratschläge und ähnliche Formulierungen. Bei Lesern kann dies den Eindruck erwecken, dass bei einem Thema mehr Konsens oder Gewissheit besteht, als es tatsächlich der Fall ist, denn sie sehen dieselben Ideen immer wieder wiederholt in vielen Quellen“, sagte Pérez.
„Das Risiko besteht darin, dass die Menschen nicht mehr wissen, welche Inhalte überprüft wurden.“
„In Bereichen wie Finanzen, Gesundheit, Recht, Bildung oder Nachrichten müssen Leser wissen, ob Behauptungen anhand von Primärquellen überprüft, kürzlich aktualisiert und von jemandem bearbeitet wurden, der rechenschaftspflichtig ist“, so Pérez weiter.
Die Epoch Times sprach auch mit KI-Strategieberater Armand Cucciniello III. Dieser erklärte, dass KI-generierte Inhalte nicht nur verändern, wie wir Informationen konsumieren. Er sagte auch, dass diese ändern, wie schnell wir sie verarbeiten und ihnen vertrauen.
„Wir bewegen uns weg vom bewussten Lesen hin zu einem schnellen Überfliegen von geschliffenen Zusammenfassungen, Kommentaren, Kurzvideos und KI-gestützten Inhalten, die auf Geschwindigkeit und Interaktion ausgelegt sind“, sagte er.
Als jemand, der im „U.S.-amerikanischen nationalen Sicherheitsumfeld“ gearbeitet habe, sagte Cucciniello, sei eine seiner größten Sorgen, dass KI-Systeme „unbeabsichtigt große Mengen ungenauer oder bewusst manipulierter Inhalte einfach durch Wiederholung und Skalierung verstärken können“.
Er sagte auch, er glaube, dass das große Volumen an KI-generierten Inhalten einen realen Druck auf das öffentliche Vertrauen ausübe.
„Wenn Leser in mehreren Quellen auf fast identische Formulierungen oder Interpretationen stoßen, ist es nur natürlich zu hinterfragen, ob die Informationen unabhängig berichtet oder einfach neu verpackt wurden“, sagte er.
Zwischen Herausforderung und Ermüdung
Carl Stroud, ein PR-Experte bei der Agentur Smoking Gun, sagte, er habe ebenfalls miterlebt, wie KI-Inhalte einen Tribut von der Öffentlichkeit fordern.
„Das grundlegende Bedürfnis des Publikums hat sich nicht verändert: Die Menschen wollen dem vertrauen, was sie lesen“, sagte Stroud der Epoch Times. Und weiter:
„Was sich geändert hat, ist, wie viel schwieriger dieses Urteil geworden ist.
„KI-generierte Inhalte, Zusammenfassungen und minderwertiger ‚Slop‘ (Inhaltsmüll) haben das Informationsumfeld lauter, flacher und verwirrender gemacht, sodass das Publikum jetzt versucht herauszufinden, ob es eine Originalberichterstattung liest, aufgewärmte Inhalte oder etwas, das niemals hätte veröffentlicht werden dürfen.“
Abgesehen von sozialen Medien und der akademischen Welt wurden nur wenige Branchen so hart von KI-generierter Fehlinformation getroffen wie die Nachrichten. Stroud, der zwei Jahrzehnte in britischen Medienkreisen, in Redaktionen und im Journalismus verbracht hat, sagte, er sehe, dass KI-Inhalte zu einer Ermüdung bei Lesern führen, die nach präzisen Informationen suchen.
„Ermüdung ist gefährlich, denn wenn Menschen sich überfordert fühlen, klinken sie sich entweder aus oder lassen sich leichter in die Irre führen“, sagte er.
Bezug zur Realität verloren
Ashutosh Khulbe, Gründer von RawPickAI, testet KI-Werkzeuge beruflich – etwa drei bis vier neue pro Woche.
„Was mir in meiner Ecke des Internets am meisten auffällt, ist, dass sich mittlerweile alles gleich anhört. Wirklich unheimlich gleich“, sagte er der Epoch Times. „Ich würde schätzen, dass zu diesem Zeitpunkt 70 bis 80 [Prozent] der Artikel über die ‚besten KI-Werkzeuge‘ KI-generiert sind.“
„Es entsteht diese seltsame Rückkopplungsschleife, in der KI Rezensionen auf der Grundlage dessen schreibt, was andere KIs bereits geschrieben haben, Leser davon ausgehen, dass ein Konsens besteht, und die tatsächliche Erfahrung bei der Nutzung dieser Werkzeuge begraben wird.“
Als Beispiel führt er seinen Test eines Schreibprogramms an, das Hunderte von positiven Bewertungen im Internet hatte, in der kostenlosen Version jedoch unbrauchbar war.
„Man konnte nicht einmal einen Absatz beenden, bevor man ans Limit stieß“, sagte er. „Aber viel Glück dabei, diese Information in einer Google-Suche zu finden.“
Besonders besorgt sei er jedoch darüber, wie sich die Informationsverzerrung auf die Öffentlichkeit auswirke:
„KI-Inhalte sind durchweg positiv gefärbt, weil sie mit Marketingseiten und Affiliate-Bewertungen trainiert wurden. Niemand trainiert Modelle mit ‚Ich habe das zwei Wochen lang ausprobiert, und es war beschissen‘. Das negative Signal verschwindet also einfach aus dem Internet.“
Die Auswirkungen des Booms von KI-Inhalten lassen sich mittlerweile in dem beobachten, was manche als „KI-Psychose“ oder eine Trennung von der Realität bezeichnen.
Obwohl es sich nicht um eine klinische Diagnose handelt, ist der Begriff zu einer populären Sammelbezeichnung geworden, um zu beschreiben, wenn KI eine ungewöhnliche, fixe oder sogar wahnhafte Wahrnehmung von etwas in der realen Welt verstärkt.
„KI-Psychose“ und unrealistische Erwartungen
Menschen mit psychischen Erkrankungen könnten anfällig dafür sein, eine „KI-Psychose“ zu entwickeln, aber es ist nicht auf diese Bevölkerungsgruppe beschränkt, so Dr. Ragy Girgis, Professor für Klinische Psychiatrie an der Columbia University und dem New York State Psychiatric Institute.
„Das Phänomen der KI-Psychose ist quantitativ neu und könnte sehr gefährlich sein, aber qualitativ ist es dem sehr ähnlich, was seit Jahrzehnten, seit dem Aufkommen des Internets, passiert“, sagte Prof. Girgis im März während eines Interviews mit der National Academy of Medicine.
Während das Versinken in Online-Themen durch Link-Hopping kein neues Phänomen sei, würden KI und große Sprachmodelle dieses Problem extrem verstärken, warnt Prof. Girgis. Das enge Nachahmen menschlicher Intelligenz durch moderne KI-Modelle mache es für Menschen leichter, deren Inhalte zu verinnerlichen.
Und die Beweise zeigen sich in fast jeder Ecke des täglichen Lebens, manchmal in Form von unrealistischen Erwartungen.
„Eine der größten Veränderungen, die ich durch die Sättigung mit KI-Inhalten gesehen habe, ist das Aufkommen von ‚synthetischen Erwartungen‘, insbesondere in der Schönheitsbranche“, sagte Justin Killingsworth, Gründer von The Color Bar, gegenüber Epoch Times.
„Als jemand, der mit Salons und kundenorientierten Beautymarken arbeitet, sehe ich immer mehr Kunden, die KI-generierte Inspirationsfotos mitbringen, die nicht widerspiegeln, was bei einem echten Menschen realistisch machbar ist.“
„Stylisten müssen zunehmend nicht nur als Künstler, sondern auch als Aufklärer und emotionale Übersetzer agieren, indem sie ihren Kunden helfen, zu verstehen, was realistisch machbar ist, während sie gleichzeitig deren Selbstvertrauen und Vertrauen wahren.“
KI oder nicht KI – das ist (k)eine Frage
Letztes Jahr zeigte eine Analyse des Microsoft AI for Good Lab, dass Menschen ein KI-generiertes Bild in 62 Prozent der Fälle korrekt identifizieren konnten. Das liegt in etwa in der Größenordnung vergleichbarer Umfragen und zeigt, wie leicht wir uns überlisten lassen.
Für Cucciniello liegt die Gefahr vor allem darin, „hochgradig effizient zu werden, Informationen schnell zu konsumieren, während man weniger Zeit damit verbringt, sich mit Mehrdeutigkeiten, Nuancen oder konkurrierenden Standpunkten auseinanderzusetzen.“
Pérez stimmte dem zu.
„Langfristig besteht die Gefahr, dass die Menschen entweder zu vertrauensselig oder zu zynisch werden“, sagte er.
Er erklärte: „Einige werden alles glauben, was wie geleckt aussieht. Andere werden davon ausgehen, dass alles im Internet künstlich ist – und aufhören, auch legitimen Informationen zu vertrauen. Beide Ergebnisse schwächen das kritische Denken.“
Und wie sieht es mit Ihnen aus? Können Sie erkennen, welche Fotos echt sind und welche von KI erstellt wurden? Testen Sie Ihr Gespür. Die Auflösung nach jedem Bild gibt Gewissheit.
1 / 22
10 Bilder, 1 Frage: Sind die folgenden Aufnahmen KI-generiert oder echt? Und woran kann man es erkennen?
Foto: ts/Epoch Times
Der Artikel erschien im Original auf theepochtimes.com unter dem Titel „AI Content Is Swamping the Internet. Here’s How It’s Changing the Way We Think“. (Übersetzung und redaktionelle Bearbeitung: sm, ts)
