KI auf Amazon: ChatGPT und Co. als Ghostwriter
KI-generierte Bücher drängen auf die Verkaufsplattform Amazon – darunter auch Kinderbücher. Über die möglichen Folgen für Autor*innen, Illustrator*innen und junge Zielgruppen.
Als die US-Autorin Jane Friedman auf Amazon nach ihren Büchern suchte, entdeckte sie, dass auf der Plattform unter ihrem Namen Werke angeboten wurden, die sie nie verfasst hatte. Sie vermutete, dass Unbekannte ihren Namen missbrauchten, um KI-generierte Bücher zu verkaufen. Denn KI-Werkzeuge wie ChatGPT können den Stil beliebter Autor*innen leicht nachahmen.
Gegen diesen Betrug wehrte sich die Autorin öffentlich. Mit Erfolg: Während Amazon klare Regeln bei Urheberrechtsverletzungen vorgibt, gab es bislang keine zum Einsatz von KI bei Büchern. Eine neue Richtlinie verpflichtet Autor*innen, Verlage und Vertriebspartner*innen nun dazu, KI-generierte Texte, Bilder oder Übersetzungen auf der Plattform zu kennzeichnen.
KI-Werkzeuge können auf dem digitalen Buchmarkt nicht nur Identitätsdiebstahl erleichtern. Was kann passieren, wenn KI-generierte Bücher sich an die besonders verletzliche Zielgruppe Kinder richten?
KI-generierte Bücher als Amazon-Trend
Von Kurzgeschichten über Rätsel- bis zu Ausmalbüchern: KI-Software erweist sich gerade bei Kinderbüchern als praktische Arbeitshilfe. Bücher für eine junge Zielgruppe folgen nämlich meist einer einfachen Handlung und haben viele Bilder. Dadurch lassen sich diese Bücher zügig und mit wenig Aufwand prompten. Die Verwendung eines einzigen Prompts genügt, um in wenigen Minuten einen Text – mit urheberrechtlichem Haftungsausschluss – im Schreibstil der Harry-Potter-Autorin J.K. Rowling zu generieren.
Gleichzeitig ermöglicht Amazon Kindle Direct Publishing, kurz „Amazon KDP“, allen registrierten Nutzer*innen, eigene Bücher auf der Plattform anzubieten. Über 1,4 Millionen Bücher erscheinen jährlich über den Kindle Self Publishing Service, darunter auch KI-generierte Bücher. Es gibt noch keine verlässlichen Zahlen darüber, wie viele es genau sind.
Da es bislang auch kaum Kennzeichnungen gibt, bleibt es oft nur bei Vermutungen, bei welchen Kinderbüchern KI-Tools verwendet wurden. Manche Autor*innen publizieren neue Bücher zum Beispiel im Monatstakt – ein Tempo, das sonst selbst erfahrene Autor*innen ohne KI nicht halten könnten.
Der deutsche Autor Dirk Emminger behauptet, dass er 10.000 Wörter in etwa zehn Stunden erstellt habe. Große Teile seines Buchs „The Adventures of Worm Valley“ habe ihm ein KI-Tool geliefert und er hätte den Text ohne Korrektur übernehmen können. In dieser Form ist das Buch nun auf Amazon erhältlich – mit Verweis auf den Einsatz von KI.
Die Reaktionen auf die auf Amazon angebotenen Kinderbücher, bei denen der KI-Einsatz ausgewiesen ist, sind gemischt: Neben sehr guten Bewertungen sind Beschweren über Mängel in den Texten und Bildern zu lesen, die den KI-Tools geschuldet seien.
Besonders hervorzuheben sind die extra Zehen. Mit 12 lebt es sich offensichtlich besser als mit 10. Ich finde es wirklich erschreckend, wie uns K.I. generierter Müll als literarisches Werk verkauft wird.
schreibt ein Käufer des Buchs „Liebevolle & beruhigende Gute Nacht Geschichten für Kinder ab 2 Jahren“.
Kurze Geschichten zum Vorlesen sind eine tolle Idee, 100 in einem Buch - super.
ABER Wortwiederholungen, Geschichten wiederholen sich mehrfach (zwar mit anderen Tieren oder Protagonisten, aber ansonsten gleichem Wortlaut), teilweise Kasus außer Acht gelassen.
Wenn man KI einsetzt sollte man trotzdem nicht davor zurückschrecken zu korrigieren bzw. es erst einmal selbst zu lesen.
schreibt eine Käuferin eines Gute-Nacht-Buchs für Kinder. Gut die Hälfte der Bewertungen sind mit fünf Sternen jedoch positiv ausgefallen.
„Immer mehr vom immer Gleichen“
Auf TikTok oder YouTube sind zahlreiche Schritt-für-Schritt-Anleitungen zum Erstellen und Verkauf KI-generierter Bücher auf Amazon zu finden. Sie beschreiben, wie sich gut vermarktbare Trendthemen per Keyword-Suche aufspüren lassen. KI-Textgeneratoren wie ChatGPT und Jasper liefern dann den Buchtext, der sich wiederum mit dem Tool „Quilbot“ aufpeppen lässt, das „originellere“ Alternativen zu Adjektiven generiert. Passende Bilder zum Text lassen sich mit Craiyon oder MidJourney erzeugen. Das fertige Buch kann schließlich als PDF bei Amazon KDP hochgeladen werden.
Online-Coaches bewerben Amazon KDP als einfache Methode, um schnell an ein passives Einkommen zu kommen. YouTuber wie Nomad Publishing, Cedric Mattig und Stephan Pobatschnig haben ihre jeweiligen Kanäle etwa dem „Amazon KDP-Business“ verschrieben. Mattig empfiehlt in einem Erklärvideo, für die Buchbeschreibung den Amazon-Text eines „Konkurrenten“ zu kopieren und durch ChatGPT umformulieren zu lassen.
Dr. Anke Vogel ist Expertin für Kinder- und Jugendbuchliteratur und Leseforschung an der Johannes-Gutenberg-Universität Mainz. Sie meint, dass ein verbreitetes Problem verstärkt werde, wenn per KI-Software Bucherfolge nachgeahmt und nur noch Trendthemen bedient werden: „Es gibt immer mehr vom immer Gleichen.“ Durch ein „Mainstreaming“ der Inhalte gehe im Buchmarkt Originalität verloren und innovative Ideen blieben aus.
Unzureichender Schutz beim Urheberrecht
Ein anderes Problem ist das Urheberrecht. Generative KI-Werkzeuge wie ChatGPT greifen auf urheberrechtsgeschütztes Material zurück. Dr. Anke Vogel hält die neuen Regeln auf Amazon für nur bedingt geeignet, Urheberrechte zu schützen, da sich kaum zweifelsfrei überprüfen lasse, ob KI-Tools beim Verfassen der Bücher mitgewirkt haben.
Wie schwer es aktuell ist, die eigenen Urheberrechte vor einem Missbrauch durch KI-Dienste zu schützen, haben neben Jane Friedmann auch andere Autor*innen und Illustrator*innen erfahren. Künstler*innen klagen gegen das KI-gestützte Bilderstellungsprogramm MidJourney mit der Begründung, dass ihre Werke ohne Zustimmung und ohne Honorarzahlungen an sie in das Tool integriert worden seien. Da Transparenz fehlt, ist es auch für Leser*innen schwierig bis unmöglich nachzuvollziehen, woraus sich Bilder oder Textinhalte zusammensetzen.
Die Qualität leidet
Den Tools unterlaufen beim Zusammenstellen der Inhalte außerdem Fehler. Der YouTuber Paul Marles zeigt in einem Erklärvideo, wie er ein Dinosaurier-Malbuch erstellt hat. Einer der generierten Dinos hat keinen Schwanz und fünf statt der üblichen vier Beine.
Das Cover des Titels „Emil – Der mutige Elefant“, der auf amazon.de in den Top-Rankings auftaucht, weist einen ähnlichen Fehler auf: Der darauf zu sehende Elefant hat einen viel zu kurzen Stoßzahn. Solche Bildfehler kommen beim Einsatz von KI-Tools häufiger vor. Auf Nachfrage von AlgorithmWatch gibt der Autor Rick Munkes an: „Die Verwendung von KI-Programmen wird von uns bei Amazon in den entsprechenden Feldern eingetragen.“ In der Buchbeschreibung sind jedoch keine solchen Hinweise zu finden.
Für das Amazon-Selfpublishing existieren keine Qualitätsstandards wie bei einem klassischen Verlag. Dadurch würden Gatekeeper fehlen, meint Dr. Anke Vogel. Das gelte für Bilder, aber auch für eine zielgruppengerechte Sprache: Wenn ein KI-TooI zum Beispiel ein Fremdwort wie „Trottoire“ anstelle von „Bürgersteig“ verwende und der Wortschatz eines Kindes noch nicht ausreiche, um es zu verstehen, könne das Buch es schnell überfordern. So ein Buch sei nicht altersgerecht und könne einem Kind die Lust am Lesen nehmen. Autor*innen von Kinderbüchern müssten sich ihrer Verantwortung bewusst werden: „Bücher formen die Persönlichkeit junger Menschen mit. Insofern braucht es eine besondere Sensibilisierung.“
Wie reagiert Amazon?
Wenn KI-generierte Bücher sich zu einem anhaltenden Trend entwickeln, schafft das gleich an mehreren Stellen Handlungsbedarf.
In einem offiziellen Statement von Amazon heißt es mittlerweile: „Wir beobachten aktiv die rasante Entwicklung der generativen KI und ihre Auswirkungen auf das Lesen, Schreiben und Veröffentlichen.“ Amazon kündigte auch an, die Anzahl an Büchern zu limitieren, die Einzelne über den KDP-Service publizieren dürfen.
Diese Maßnahme und die neu eingeführte Regel, verwendete KI-Tools zu kennzeichnen, sind wichtige erste Schritte. Die Transparenzpflicht betrifft bislang allerdings nur den KDP-Bereich. Die größte Interessensvertretung von Autor*innen in den USA, die Authors Guild, fordert, dass der Einsatz von KI-Tools bei sämtlichen auf der Plattform angebotenen Publikationen gekennzeichnet werden solle, damit alle Leser*innen mündige Kaufentscheidungen treffen können.