KI-Fakebücher in Bibliotheken: Wissenschaftler schlagen Alarm

 

Wissenschaftliche Scherze wie die „Sokal-Affäre“ oder Wikipedia-Pannen wie jene um erfundene Personen der Zeitgeschichte waren gestern. Heute stellen KI-generierte Sachbücher mit fehlerhaften Inhalten und erfundenen Quellen ein zunehmendes Problem der Wissensgesellschaft dar. Ein Referent für „Open Science“ hat darob jüngst einen Hilferuf veröffentlicht.

Ende April veröffentlichte Stephan Wünsche, ein Fachreferent für Musik an der Universitätsbibliothek Leipzig, einen Beitrag mit dem Titel „How to Sell Bullshit Online (Fast)”. Darin klagt er über eine immer größere Zahl an Büchern in Bibliotheksbeständen, die äußerlich den Eindruck erwecken, es würde sich bei ihnen um seriöse Fachwerke handeln.

Tatsächlich stellten sie sich als KI-generierte Publikationen mit gravierenden inhaltlichen Unzulänglichkeiten und teilweise erfundenen Autoren heraus. Häufig stammten sie aus Self-Publishing-Verlagen – wie dem „Flip-Flop-Verlag“ aus München oder der Plattform „tredition“ aus Ahrensburg. Bücher dieser Art seien unter anderem in Bibliotheken in Leipzig, Dresden, Weimar und Hannover aufgetaucht.

Anhand mehrerer Beispiele illustriert Wünsche, wofür in einzelnen Fällen öffentliche Gelder ausgegeben wurden und was Bibliotheken als scheinbare Fachliteratur erwarben. In einem vermeintlich wissenschaftlichen Werk über Johann Sebastian Bach wurde dessen Sohn Johann Christian als dessen Vater deklariert. Der Text bringt auch weitere familiäre Zusammenhänge der Bach-Familie durcheinander.

Ein Buch über den Komponisten Salomon Jadassohn nennt die Leipziger Städtischen Bibliotheken als Projekt zur Sammlung von dessen Gesamtwerk. Außerdem heißt es darin, dort würde ein großer Teil des Nachlasses Jadassohns verwaltet. Beide Informationen sind jedoch unzutreffend. Zudem nimmt der – vermeintliche – Autor auch hier Bezug auf Quellen, die es nicht gibt. Mehrere Fachzeitschriften hatten bei einzelnen Titeln bereits Alarm geschlagen.

Wünsche geht davon aus, dass KI die scheinbar wissenschaftlichen Bücher im Schnellverfahren erzeugt. Später erfolgt die Veröffentlichung über eine Self-Publishing-Plattform. Als Autorennamen kommen Pseudonyme wie „Valentin Fuchs“, „Robert H. Hummel“ oder „Sophia Weller“ zum Einsatz.

Die Urheber beziehen ihr Wissen über die Erstellung und Vermarktung der Bücher über einschlägige Onlinekurse. Sie verkaufen die Publikationen über Onlineplattformen und Bibliothekskataloge. Einnahmen generieren sie durch die Beteiligung am Verkaufspreis.

Stephan Wünsche sieht nicht nur die Verschwendung öffentlicher Mittel für den Ankauf qualitativ minderwertiger Wissenschaftsliteratur als Problem. Er befürchtet, dass viele Studierende die sachlichen Fehler in den Büchern nicht erkennen und damit Falschinformationen in Hausarbeiten und Forschung gelangen. Dies könnte perspektivisch das Vertrauen in das Wissenschaftssystem untergraben.

Aber auch für seriöse Wissenschaftler sei die Flut an KI-generierten Fake-Titeln ein Risiko. Anbieter wie „tredition“ werden auch von echten Forschern genutzt, weil die Publikation von Büchern selbst keine hohen Kosten verursacht. Diese fielen meist für Zusatzleistungen an. Immerhin seien auch diese auf günstige Publikationswege angewiesen.

Unvorteilhafte Berichte über Plattformen wie „tredition“ können nun zur Folge haben, dass Bibliotheken sie unter Generalverdacht stellen und Bücher bestimmter Anbieter pauschal meiden. Dadurch kann ebenfalls Schaden für seriöse Autoren und Wissenschaftler entstehen.

Derzeit listet die Deutsche Nationalbibliothek mehr als 112.000 Medien der Self-Publishing-Plattform, wobei die meisten der Belletristik oder Ratgeberliteratur zuzuordnen sind. Gegenüber der „Frankfurter Allgemeinen Zeitung“ (FAZ) kündigte „tredition“-Geschäftsführerin Sandra Latußeck an, ein neues Prüfungstool einführen zu wollen. Dieses solle Publikationen auf KI-Muster, inkonsistente Quellen und inhaltliche Auffälligkeiten prüfen.

Die von Wünsche genannten Bücher hätten „in dieser Form nicht veröffentlicht werden dürfen“, erklärte Latußeck weiter. Der dahinterstehende Autor sei mittlerweile gesperrt, die Werke nicht mehr im Vertrieb. Außerdem werde es künftig eine verpflichtende Selbstauskunft für Autoren geben. Die Veröffentlichungen der vergangenen beiden Jahre überprüfe man rückwirkend.

Dass KI-Fakebücher „kein gewünschter Bestandteil des Geschäftsmodells“ seien, betonte auch ddvg-Geschäftsführer Matthias Linnekugel. Die Medienbeteiligungsgesellschaft der SPD hält laut FAZ 9,9 Prozent der Anteile an „tredition“.

Bei der FAZ hielt man dies für erwähnenswert: Immerhin gehören die Sozialdemokraten zu den vehementesten Verfechtern einer engmaschigen Regulierung von KI inklusive Kennzeichnungspflichten und der Bekämpfung von „Desinformation“. Indirekt würde die SPD zudem vom Verkauf der Fake-Titel profitieren.

Linnekugel erklärte jedoch, dass es sich beim Anteil der ddvg an „tredition“ um eine reine Finanzbeteiligung handele. Auf die Strategie oder Geschäftsführung habe die Unternehmensgruppe keinen Einfluss.