Der Aufstieg des „KI-Schrotts“: Wie generative KI Amazon mit gefälschten Büchern überschwemmt

Die Illusion von Autorität im digitalen Zeitalter

Jahrzehntelang diente die Veröffentlichung eines Buches als natürlicher Qualitäts- und Glaubwürdigkeitsfilter. Der traditionelle Prozess – bestehend aus sorgfältiger Bearbeitung, professionellem Design und der immensen Arbeit eines menschlichen Autors – schuf eine ihm innewohnende Autorität. Doch das Aufkommen großer Sprachmodelle (LLMs) wie ChatGPT hat diese Eintrittsbarriere beseitigt und eine Ära des „KI-Schrotts“ eingeläutet, in der mit geringem Aufwand automatisierte Inhalte innerhalb weniger Minuten als professionelle Literatur vermarktet werden können.

Jüngste Untersuchungen, darunter Berichte der New York Times, haben einen beunruhigenden Trend bei Amazon aufgezeigt: die zunehmende Verbreitung KI-generierter Biografien und Ratgeber. Dabei handelt es sich nicht nur um Gemeinschaftsarbeiten, bei denen KI einen menschlichen Autor unterstützt; Es handelt sich oft um vollständig synthetisierte Produkte, die ohne jegliche menschliche Kontrolle hergestellt und an ahnungslose Leser verkauft werden.

Die Heimlichkeit von KI-Angeboten

In einem kürzlich durchgeführten Experiment zur Identifizierung dieser automatisierten Werke könnte man erwarten, dass die Warnsignale offensichtlich sind. Die Realität ist jedoch weitaus trügerischer. Auf den ersten Blick wirken KI-generierte Bücher auf Amazon völlig seriös. Sie weisen hochauflösende, professionell wirkende Cover, sorgfältig formulierte Beschreibungen und angemessene Preise auf. Selbst die Sternebewertungen – die leicht manipuliert werden können – vermitteln einen Anschein von Authentizität.

Die Gefahr liegt in der Heimlichkeit dieser Bücher. Ohne gezielte Recherche würde ein Gelegenheitskäufer diese Titel wahrscheinlich für das Werk eines erfahrenen Experten halten. Die Fassade ist so überzeugend, dass man den Betrug nur durch genaueres Hinsehen hinter die Produktseite erkennen kann.

Risse in der Fassade: Wie man „Phantom“-Autoren entlarvt

Bei genauerer Betrachtung der Metadaten dieser Einträge werden die Risse sichtbar. Das erste deutliche Warnsignal findet sich oft auf der Profilseite des Autors. Viele dieser „Schriftsteller“ sind Phantomidentitäten – erfundene Profile mit Stockfotos und generischen Biografien, in denen sie sich als „erfahrene Analysten“ oder „Kulturexperten“ ausgeben.

Die schiere Menge an Veröffentlichungen ist ein weiteres eindeutiges Indiz. Unmögliche Veröffentlichungszyklen sind bei KI-gestützten Autoren üblich; so wurden beispielsweise Autoren dabei ertappt, wie sie innerhalb weniger Monate Dutzende von Büchern zu völlig unterschiedlichen Themen veröffentlichten, von Alleinerziehung bis hin zu toxischen Arbeitsumgebungen. Kein einzelner Autor kann ohne ein riesiges Ghostwriting-Team ein solches Produktionsniveau in so unterschiedlichen Nischen erreichen, doch diese Autoren arbeiten allein unter einem einzigen Namen.

Der „KI-Dialekt“: Analyse von Marketingtexten

Neben dem Autorenprofil offenbart die Sprache, mit der die Bücher beworben werden, oft ihren roboterhaften Ursprung. KI-generierte Marketingtexte greifen häufig auf bestimmte, sich wiederholende und häufig verwendete Phrasen zurück. Wörter und Phrasen wie „eintauchen in“, „umfassender Leitfaden“ und „die Geheimnisse von lüften“ sind zu Kennzeichen von LLM-Veröffentlichungen geworden.

Diese austauschbare Prosa entsteht dadurch, dass dieselben Eingabeaufforderungen durch dieselben Modelle laufen. Besonders problematisch sind die Biografien; viele sammeln einfach vorhandene Online-Informationen und synthetisieren sie zu selbstbewusst klingenden Texten. In Fällen wie den unautorisierten Biografien der Tech-Journalistin Kara Swisher oder des Politikwissenschaftlers Ian Bremmer tragen die Bücher nichts Neues zum öffentlichen Bewusstsein bei, sondern wiederholen lediglich Informationen, die bereits frei im Internet verfügbar sind.

Die weiterreichenden Auswirkungen und der Kampf um Authentizität

Dies ist nicht nur ein Problem von Amazon. Plattformen wie Substack spüren den Druck und arbeiten seit Kurzem mit KI-Erkennungsunternehmen wie Pangram zusammen, um Lesern die Möglichkeit zu geben, Beiträge auf das Verhältnis von menschlichen zu KI-generierten Inhalten zu überprüfen. Obwohl diese Tools nicht perfekt sind und das Risiko von Fehlalarmen bergen, signalisiert ihre Implementierung den dringenden Bedarf an Transparenz im digitalen Publizieren.

Da der Markt mit automatisierten Inhalten gesättigt ist, verlagert sich die Verantwortung für die Überprüfung auf die Verbraucher. Um nicht auf „KI-Schrott“ hereinzufallen, sollten Leserinnen und Leser sorgfältiger vorgehen:

• Autoren recherchieren: Suchen Sie außerhalb des Buchmarkts nach dem Autor, um eine glaubwürdige Publikationshistorie oder ein professionelles Portfolio zu finden.
• Leseprobe prüfen: Nutzen Sie die Funktion „Blick ins Buch“, um Wiederholungen und fehlende Originalität zu erkennen.
• Rezensionen von Dritten einholen: Suchen Sie nach professionellen Rezensionen etablierter Literaturkritiker, anstatt sich auf anonyme Sternebewertungen zu verlassen.
• Originalität einfordern: Achten Sie bei Sachbüchern auf Belege für Interviews aus der Praxis und Originalzitate.