US-Aufsicht: FTC geht gegen "KI-Waffenerkennungsspezialisten" Evolv vor

Die US-Handelsaufsicht FTC (Federal Trade Commission) hat im Streit mit dem Unternehmen Evolv über dessen Technik, die angeblich Waffen wie Pistolen oder Messer automatisiert mithilfe von Künstlicher Intelligenz (KI) in Gepäck ausfindig machen kann, einen Vergleich abgeschlossen. Die Sicherheitsfirma darf demnach nicht mehr behaupten, dass ihr Scanner fähig ist, Waffen zu erkennen und von harmlosen persönlichen Gegenständen zu unterscheiden. Sie darf auch nicht mehr mit dem Aspekt werben, dass Laptops und andere Geräte nicht mehr aus ihren Taschen oder Koffern herausgenommen werden müssen. Zudem ist es dem Unternehmen untersagt, Angaben etwa zur Genauigkeit der Waffenerkennung im Vergleich zum Einsatz von Metalldetektoren zu machen.

Evolv hat seine KI-basierten Gepäckscanner unter anderem damit angepriesen, "dass kein geschulter Bediener mehr erforderlich ist, um potenzielle Bedrohungen" zu erkennen. Bei den meisten herkömmlichen Röntgengeräten sei ein Bediener erforderlich, der ein Röntgenbild interpretiert, heißt es dazu. Die eigene Technik signalisiere dagegen nur mit Rot oder Grün, ob eine Tasche von einem Menschen durchsucht werden sollte. So lasse sich der "Durchsatz gescannter Gepäckstücke" maximieren und die Zahl der von Hand zu durchsuchenden Objekte minimieren. Evolv hat nach eigenen Angaben über 800 Kunden weltweit. Dazu gehörten Stadien, Themenparks und Museen sowie Schulen, Krankenhäuser, Kirchen und Stadtverwaltungen.

Bürgerrechtler: KI ist teures vermeintliches Wundermittel

Die FTC warf Evolv in ihrer Beschwerde vor, wissentlich, wiederholt und rechtswidrig irreführende Behauptungen über die Technik aufgestellt zu haben. Denn letztlich könne auch diese – wie herkömmliche Scanner – nur Metall erkennen und Alarm für entsprechende Objekte auslösen. Ein typischer Vertrag für Geräte von Evolv kostet indes Zehntausende US-Dollar pro Jahr – das Fünffache der Kosten herkömmlicher Metalldetektoren. Ein Bezirk in Kentucky gab 17 Millionen US-Dollar aus, um seine Schulen mit der Hard- und Software auszustatten. Doch die Ergebnisse sind oft ernüchternd. Von Juli bis Oktober führte etwa New York City in 20 U-Bahnen und Bahnhöfen einen Test der Evolv-Technik durch. Bei 2749 durchgeführten Scans ergaben sich 118 Fehlalarme. Kontrolleure stellten zwölf Messer, aber keine Schusswaffen sicher.

Die Einigung mit der FTC sieht vor, dass die vielen Schulen, die auf Evolv-Scanner setzen, ihre Verträge vorzeitig kündigen können. Die Firma darf ausdrücklich auch nicht mehr auf wesentliche Aspekte der Geräte wie Leistung, Wirksamkeit, Art oder zentrale Merkmale hinweisen, die üblichen Detektoren überlegen sein sollen. Dies schließt Äußerungen über den Einsatz von Algorithmen, KI sowie anderen automatisierten Systemen und Werkzeugen ein. Die US-Bürgerrechtsorganisation Electronic Frontier Foundation (EFF) begrüßt die Übereinkunft: Es gebe gute Gründe, warum KI so häufig als Hype oder "Schlangenöl" bezeichnet werde. Immer wieder griffen Firmen auf öffentliche Daten zurück, um damit Überwachung per KI voranzutreiben. Es bleibe dann dem Steuerzahler überlassen, festzustellen, dass das alles nicht funktioniere. Auch KI-Software zum Erkennen und Lokalisieren von Schüssen, liefere nur selten Beweise für entsprechende Delikte.

(nie)