"I'm sorry, ...": Amazon entfernt Angebote mit ChatGPT-Fehlermeldungen als Namen

Amazon hat offenbar eine Reihe von Produkten aus dem Angebot genommen, bei denen als Name eine Fehlermeldung von ChatGPT aufgelistet war. Entdeckt hatte dies das US-Magazin The Verge und in einem Bericht unter anderem Gartenmöbel gezeigt, die unter der Bezeichnung "I Apologize but I Cannot fulfill This Request it violates OpenAI use Policy-gray" angeboten wurden. Die Anzeigen sind inzwischen nicht mehr abrufbar, genauso wie ein mutmaßlicher Gartenschlauch, ein Stoff-Pavillon, ein Regal und mehrere weitere Angebote mit verräterischen Namen. Von Amazon gibt es dazu bislang keine Stellungnahme, aber Suchen nach den verräterischen Formulierungen liefern inzwischen keine Ergebnisse mehr.

Schon KI-generierte E-Books bei Amazon

Dass KI-Textgeneratoren benutzt werden, um Inhalte zu erstellen, die auf Amazon angeboten werden, ist für den US-Onlinehändler nicht neu. Bislang standen dabei aber E-Books im Fokus der Aufmerksamkeit. So hat im vergangenen Sommer eine US-Autorin Titel bei Amazon entdeckt, bei denen sie als Verfasserin genannt wurde, die aber wohl von einer KI verfasst wurden. Während es in diesem und ähnlichen Fällen aber um Fragen des Urheberrechts gegangen ist, waren andere Werke potenziell sogar gefährlich: Pilzratgeber aus KI-Textgeneratoren enthielten teilweise lebensgefährliche Ratschläge. In beiden Fällen war Amazon erst nach Medienberichten tätig geworden, genauso wie offenbar jetzt bei den Produkten mit Fehlermeldungen als Namen.

Der Rückgriff auf KI als Hilfe für die Einstellung von Produkten ist bei Amazon nicht untersagt. Ganz im Gegenteil, seit dem Herbst bietet der US-Konzern Händlern und Händlerinnen sogar eine eigene KI-Technik an, die Titel, Bullet Points und Beschreibungen automatisch generieren soll. Das soll dabei helfen, Produkte schneller und effizienter online zu stellen. Auch für die Kundschaft sei das bei der Entscheidungsfindung hilfreich. Produkte, bei denen nicht einmal die Titel oder Beschreibungstexte auf mögliche Fehler hin überprüft wurden, dürften deshalb nur die Spitze des Eisbergs darstellen. In wie vielen Fällen Beschreibungstexte auf Amazon bereits KI-generiert sind, lässt sich nicht abschätzen.

(mho)