Per KI: Amazon-App sucht und bestellt in fremden Online-Shops

Wenn ein gesuchtes Produkt auf Amazon nicht verfügbar ist, sollen die Kunden künftig trotzdem nicht woanders kaufen müssen: Eine KI soll für sie in fremden Online-Shops suchen und auf Wunsch auch gleich in ihrem Namen dort bestellen. "Buy for me", auf Deutsch "Kauf für mich", heißt die neue KI-Funktion, die jetzt als Beta-Version für einige US-Kunden von Amazon verfügbar ist.

Wer in der Amazon Shopping-App nach Produkten sucht, bekommt dabei auch gleich Angebote vorgeschlagen, die fremde Online-Shops in ihrem Sortiment haben. Sie lassen sich genau so in der Amazon-App aufrufen und ansehen, wie Produkte, die bei Amazon direkt angeboten werden. Ein "KI-Shopping-Agent" bestellt im Namen der Amazon-Nutzer bei dem Fremdanbieter. Die Kunden müssen nichts weiter tun, als ihre Bestellung wie gewohnt in der Amazon-App aufgeben. In einem Blogeintrag zeigt Amazon den Ablauf einer solchen Bestellung auf dem Smartphone.

Amazon-KI bedient Webbrowser

Hinter den Kulissen besucht der Einkaufsagent die externe Website, wählt das gewünschte Produkt aus, gibt den Namen, die Lieferadresse und die Zahlungsdaten des Benutzers verschlüsselt ein und schließt den Kauf ab, erklärt Amazon. Der Agent läuft demnach mit Amazons hauseigenen Nova KIs sowie den Claude-KIs von Anthropic. Hinter der neuen Funktion dürfte vor allem Nova Act stehen, ein Ableger, den Amazon diese Woche vorgestellt hat. Er kann Webbrowser steuern und beherrscht damit bereits simple Arbeitsschritte auf externen Webseiten, berichtet das Tech-Magazin Techcrunch. Für Entwickler ist Nova Act bereits bei Amazon zugänglich.

Allerdings dürfte "Buy for me" auch für einige Bedenken sorgen. Denn am Ende bleibt es eine KI, welche im Namen von Amazon-Nutzern Bestellungen aufgibt und sensible Daten wie Bankverbindungen, Wohnadressen etc. verarbeitet. Und KIs neigen bekanntlich zum Halluzinieren und sind anfällig für Fehler. Das erstere führt zum Beispiel zu scheinbar korrekten Ergebnissen der KI, welche aber objektiv falsch sein können und sich auf die genutzten Trainingsdaten nicht plausibel zurückführen lassen. Im Falle von Amazons Einkaufsagenten könnte die KI zum Beispiel aus zehn bestellten Stück eines Produkts plötzlich 1000 machen. Techcrunch berichtet auch, dass KI-Shoppingagenten bislang häufig noch sehr lange brauchen, um Bestellungen zu verarbeiten, und das häufig auch fehlschlägt. Auch OpenAI und Google bieten bereits ähnliche "Einkaufsagenten" an, bei denen die Nutzer aber ihre Daten noch selbst eingeben müssen.

Und auch über die Sicherheit ihrer Daten dürften sich manche Kunden Gedanken machen. Immer wieder werden zum Beispiel Jailbreak-Methoden (deutsch: Gefängnisausbruch-Methoden) bekannt. Damit lassen sich die Sicherheitsrichtlinien der KIs außer Kraft setzen, sodass diese plötzlich sensible Daten preisgeben. So konnte heise online kürzlich die Claude-KI dazu bringen, über Bauanleitungen für Molotov-Cocktails und andere Dinge zu sprechen. Die Antworten waren dabei nur in Teilen halluziniert. Später gab Claude auch eine Liste mit Identitäten seiner Entwickler preis, welche ebenfalls nicht halluziniert waren. Im normalen Zustand verweigert Claude solche Anfragen. Anfällig für Jailbreaks sind Chatbots, hinter denen Large Language Models (LLMs) stehen. Ob sich auf solche oder ähnliche Weise auch Daten aus Amazons KI-Shoppingagenten auslesen lassen würden, ist bislang natürlich fraglich. Ebenfalls spannend ist die Frage, ob Amazon von vornherein solche fremden Shops von seinem Einkaufsagenten ausschließt, die von ihm sicher übermittelte Kundendaten ihrerseits wiederum unsicher weiterverarbeiten – es wäre theoretisch nicht ausgeschlossen, würde die Bestellung via Nova Act über einen (virtuellen) Webbrowser aufgegeben. Ob solche möglichen Risiken bei Amazon-Nutzern für Vorbehalte sorgen und ob diese berechtigt sind, wird sich zeigen.

(nen)