Amazon und das Dilemma der KI-generierten Bücher: Eine Frage der Transparenz
Amazon steht vor einem Problem, das die Grenzen zwischen Mensch und Maschine verwischt. Der Online-Riese sieht sich mit einer Flut von Büchern konfrontiert, die nicht von menschlichen Autoren, sondern von künstlicher Intelligenz (KI) verfasst wurden. Während Amazon erste Schritte unternimmt, um diesem Trend entgegenzuwirken, bieten Start-ups im Bereich der KI-Erkennung eine mögliche Lösung an: Sie wollen den Kunden offenlegen, ob ein Buch von einem Menschen oder einer Maschine geschrieben wurde. Doch bisher scheint Amazon diese Technologie nicht anzunehmen.
Die genaue Anzahl der KI-generierten Bücher auf der Plattform bleibt unklar. Besonders betroffen sind bestimmte Genres wie Reiseführer und Sammelhandbücher, aber auch Bestseller-Listen für Jugendromane, die von Autorin Caitlyn Lynch als "KI-Unsinn" bezeichnet wurden. Einige dieser KI-generierten Bücher verwenden sogar die Namen und Abbildungen menschlicher Autoren. So entdeckte die Schriftstellerin und Verlagsbranchenexpertin Jane Friedman diesen Sommer fünf separat gelistete Bücher auf Amazon, die fälschlicherweise als ihre Werke ausgegeben wurden.
Natürlich generieren KI-Bots diese Bücher nicht ganz alleine. Es gibt eine ganze Reihe von YouTube-Videos, die Menschen dazu ermutigen, schnell reich zu werden, indem sie KI-generierte Werke für Kindle produzieren. Für reguläre Online-Buchkäufer macht dieser neue Geldverdienst-Trick die Suche nach qualitativ hochwertigen, von Menschen verfassten Büchern jedoch schwieriger.
In den letzten Wochen hat Amazon Maßnahmen ergriffen, um das Problem anzugehen, indem es die Anzahl der Bücher begrenzt, die ein Autor selbst veröffentlichen kann, und eine Richtlinie eingeführt hat, die selbstveröffentlichte Autoren dazu verpflichtet, offenzulegen, ob ein Werk KI-generiert ist. Doch drei verschiedene KI-Erkennungs-Start-ups haben gegenüber WIRED unabhängig voneinander erklärt, dass Amazon und andere Online-Buchhändler ihre Dienste nutzen könnten, um KI-generierte Materialien proaktiv zu kennzeichnen.
Reality Defender, eines der bekanntesten neuen Start-ups im Bereich der KI-Erkennung, begann mit dem Fokus auf Deepfake-Bildern, hat seine Dienste aber mittlerweile auch auf Texterkennung ausgeweitet. Zu den Kunden zählen bereits namhafte Unternehmen wie Visa, Microsoft sowie die US-amerikanischen Ministerien für Verteidigung und Heimatschutz. CEO und Mitgründer Ben Colman betont, dass sein Unternehmen bereits in der Lage ist, diese Dienste im benötigten Umfang für Amazon anzubieten, vorerst allerdings nur in englischer Sprache.
Auch andere Start-ups im Bereich der KI-Erkennung teilen dieses hohe Maß an Zuversicht. Jonathan White, Chief of Staff bei GPTZero, sagt: "Wir können diese Technologie absolut für E-Commerce-Plattformen bereitstellen und befinden uns derzeit in Gesprächen mit verschiedenen Anbietern."
John Renaud, Gründer von Winston AI, betont ebenfalls, dass sein Unternehmen E-Commerce-Plattformen wie Amazon mit der notwendigen Technologie zur Erkennung von KI-generierten E-Books ausstatten könnte. Mehrere Verlage zählen bereits zu den Kunden von Winston AI.
Im Verlagswesen mehren sich die Stimmen, die Amazon und andere Buchhändler dazu auffordern, zumindest zu versuchen, den Kunden mitzuteilen, ob die Bücher, die sie betrachten, von Menschen oder Maschinen geschrieben wurden.
"Amazon ist ethisch verpflichtet, diese Informationen offenzulegen. Die Autoren und Verlage sollten dies bereits tun, aber wenn sie es nicht tun, muss Amazon es vorschreiben – ebenso wie jeder Einzelhändler und Distributor", sagt Jane Friedman. "Indem wir dies nicht tun, züchten wir Misstrauen und Verwirrung in der Branche. Der Autor und das Buch werden die erhebliche Autorität verlieren, die sie bisher genossen haben."
Mary Rasenberger, CEO der Authors Guild, fügt hinzu: "Wir setzen uns für eine Gesetzgebung ein, die verlangt, dass KI-generiertes Material von den Plattformen oder den Verlagen als solches gekennzeichnet wird."
Für Amazon gibt es einen offensichtlichen Anreiz, dies zu tun. "Sie wollen zufriedene Kunden", sagt Rasenberger. "Und wenn jemand ein Buch kauft, von dem er denkt, dass es von einem Menschen geschrieben wurde, und er etwas erhält, das KI-generiert und nicht sehr gut ist, ist er nicht zufrieden."
Doch warum nutzt das Unternehmen keine KI-Erkennungstools? Warum wartet es darauf, dass Autoren offenlegen, ob sie KI verwendet haben? Auf die direkte Frage von WIRED, ob eine proaktive KI-Kennzeichnung in Erwägung gezogen wird, lehnte das Unternehmen eine Antwort ab. Stattdessen lieferte Sprecherin Ashley Vanicek eine schriftliche Stellungnahme über die aktualisierten Richtlinien und Mengenbeschränkungen für selbstveröffentlichte Autoren. "Amazon bewertet ständig aufkommende Technologien und ist bestrebt, die bestmögliche Einkaufs-, Lese- und Veröffentlichungserfahrung für Autoren und Kunden zu bieten", fügte Vanicek hinzu.
Das bedeutet natürlich nicht, dass Amazon diese Art von Technologie ausschließt – nur, dass es derzeit keine Stellung zu den Überlegungen nimmt, die möglicherweise hinter den Kulissen stattfinden. Es gibt eine Reihe von Gründen, warum das Unternehmen die KI-Erkennung vorsichtig angehen könnte. Zum einen gibt es Skepsis darüber, wie genau die Ergebnisse dieser Tools derzeit sind.
Im März veröffentlichten Forscher der University of Maryland eine Studie, in der sie KI-Detektoren wegen ihrer Ungenauigkeit kritisierten. "Diese Detektoren sind in praktischen Szenarien nicht zuverlässig", schrieben sie. Im Juli hoben Forscher der Stanford University hervor, wie Detektoren Vorurteile gegenüber Autoren zeigen, die keine Muttersprachler sind.
Einige Detektoren wurden eingestellt, nachdem sie entschieden hatten, dass sie nicht gut genug waren. OpenAI zog seine eigene KI-Klassifikationsfunktion zurück, nachdem sie wegen ihrer miserablen Genauigkeit kritisiert worden war.
Probleme mit falsch positiven Ergebnissen haben einige Universitäten dazu veranlasst, die Verwendung verschiedener Versionen dieser Tools bei Studentenarbeiten einzustellen. "Wir glauben nicht, dass KI-Erkennungssoftware ein effektives Tool ist, das verwendet werden sollte", schrieb Michael Coley von der Vanderbilt University im August, nach einem gescheiterten Experiment mit Turnitins KI-Erkennungsprogramm. Auch die Michigan State University, die Northwestern University und die University of Texas in Austin haben die Verwendung der Turnitin-Erkennungssoftware vorerst eingestellt.
Während die Authors Guild die KI-Kennzeichnung befürwortet, rechnet Rasenberger damit, dass falsch positive Ergebnisse ein Problem für ihre Mitglieder sein werden. "Das ist etwas, von dem wir viel hören werden, das versichere ich Ihnen", sagt sie.
Die Bedenken hinsichtlich der Genauigkeit der aktuellen Erkennungsprogramme sind völlig berechtigt – und selbst die am besten abgestimmten Detektoren werden nie fehlerfrei sein –, aber sie negieren nicht, wie willkommen die KI-Kennzeichnung für Online-Buchkäufer wäre, insbesondere für Personen, die nach Sachbüchern suchen und menschliche Expertise erwarten. "Ich denke nicht, dass es kontrovers oder unvernünftig ist zu sagen, dass die Leser sich dafür interessieren, wer für die Produktion des Buches verantwortlich ist, das sie möglicherweise kaufen", sagt Friedman.