KI-Einkaufsagenten: Welche Risiken Nutzer und Firmen kennen müssen
Der Artikel zeigt, wie manipulierbar KI-Shopping-Agenten sind und beleuchtet neue Risiken für Sicherheit, Datenschutz und Kontrolle.
(Bild: Jessica Nachtigall / KI / heise medien)
Agentic Commerce verschiebt die Dynamik beim Shopping von „Mensch sucht Produkt“ zu „Maschine verhandelt mit Maschine“. Dadurch entstehen völlig neue Sicherheitsrisiken. Kriminelle oder auch einer der am Kauf beteiligten Akteure könnte Prozesse betrügerisch manipulieren, etwa an den Schnittstellen zwischen den Maschinen oder mittels Prompt Injection, also durch Manipulation einer künstlichen Intelligenz durch Eingaben, die deren ursprüngliche Anweisungen oder Sicherheitsregeln umgehen.
Außerdem bringt Agentic Commerce datenschutzrechtliche und ethische Fragestellungen mit sich, die weit über den klassischen E-Commerce hinausgehen: Um sinnvoll handeln zu können, benötigen Shoppingagenten Informationen, etwa Präferenzen, Kontext und die bisherige Kaufhistorie.
- Je mehr Rechte und Autonomie KI-Assistenten beim Einkaufen erhalten, desto problematischer wird es, sie zu benutzen.
- Der Artikel analysiert Sicherheitslücken, Manipulationsmöglichkeiten und rechtliche Grauzonen dieser Systeme.
- Kritiker fordern nach dem Prinzip „human on the loop“, dass Entscheidungen bei Menschen verbleiben müssen.
DSGVO-Prinzipien wie Datensparsamkeit, Transparenz und Zweckbindung lassen sich mit dem Agieren der Agenten nur schwer vereinbaren. Wohin sich Agentic Commerce in den nächsten Monaten und Jahren entwickelt, lässt sich schwer absehen. In diesem Artikel tasten wir die größten Knackpunkte ab.
Das war die Leseprobe unseres heise-Plus-Artikels "KI-Einkaufsagenten: Welche Risiken Nutzer und Firmen kennen müssen". Mit einem heise-Plus-Abo können Sie den ganzen Artikel lesen.
