Cisco AI Defense: Netzwerküberwachung für KI-Anwendungen und Datenmodelle

Cisco will mit AI Defense KI-Systeme vor Angriffen und Missbrauch schützen und auch das Verhalten von KI-Modellen absichern. AI Defense wurde speziell für Unternehmen entwickelt, um KI-Anwendungen möglichst zuverlässig zu entwickeln und bereitzustellen und sicher zu betreiben. Die Software soll laut Hersteller in die Netzwerkstruktur integriert sein und Bedrohungen bei der Entwicklung von und beim Zugriff auf KI-Anwendungen erkennen und abwehren. Ciscos Vice President of Product, AI Software and Platform, DJ Sampath, sagte, es sei Realität, "dass wir in einer Multi-Modell- und Multi-Cloud-Welt leben“. AI Defense soll daher unabhängig vom verwendeten KI-Modell und unabhängig vom Ort der Datenverarbeitung anwendbar sein.

Die zunehmende Diversität bei Modell und Ort sieht Cisco als große Sicherheitsherausforderung, insbesondere wenn das Training mit "nicht-öffentlichen Daten" auf Drittanbieter-Modellen stattfindet. AI Defense soll entsprechende Leitplanken für die Entwicklung und Anwendung von KI schaffen. Laut Ciscos eigenem AI Readiness Index fühlen sich nur 29 Prozent der Befragten vollständig gerüstet, um unbefugte Manipulationen mit KI zu erkennen und zu verhindern. Dazu soll AI Defense vor Angriffen auf die KI schützen und das Modellverhalten plattformübergreifend absichern. Sanktionierte oder als Schatten-KI verwendete Anwendungen in öffentlichen und privaten Clouds soll die Software anhand eines Regelwerks blockieren und mit dem Absichern des Zugangs auf bestimmte KI-Anwendungen Datenlecks verhindern.

Mehr Bedrohungsszenarien

Mit automatisierten Tests zur Validierung prüft AI Defense KI-Modelle auf Hunderte potenzielle Sicherheitsrisiken. Diese KI-gesteuerte Überprüfung der Algorithmen soll Schwachstellen identifizieren und den Sicherheitsteams Empfehlungen geben. Eine kontinuierliche Validierung während der Laufzeit von KI-Anwendungen soll Prompt-Injektionen, Denial-of-Service-Attacken und den Zugriff auf vertrauliche Daten verhindern.

AI Defense soll parallel zu den bereits in die Modelle eingebauten Beschränkungen eine übergreifende Sicherheitsschicht implementieren und so konsistente KI-Sicherheitsrichtlinien unabhängig vom eingesetzten Modell einhalten. Dazu setzt die Software Machine Learning auf Basis der Daten von Splunk (von Cisco 2023 übernommen) und Cisco Talos ein, um sich an Änderungen anzupassen. Die Sicherheitsmechanismen sollen auch bei Apps greifen, die lediglich KI-Bestandteile enthalten.

Bild 1 von 3

Cisco AI Defense (3 Bilder)

Mit AI Defense tragen Ciscos milliardenschwere KI-Investitionen Früchte, nachdem zuletzt das Netzwerkgeschäft unter Druck geraten war. Durch die allgemein zunehmende KI-Nutzung entstehen zusätzliche Bedrohungsszenarien, und viele schrecken wegen Datenschutz- und Informationssicherheitsbedenken vor der Nutzung und der Entwicklung von KI-Produkten zurück. AI Defense setzt hier an und soll bereits bei der Entwicklung und der Nutzung von KI-Anwendungen erweiterten Schutz für diese Herausforderung bieten. Die Software soll so vor dem Missbrauch von KI-Tools und vor Datenlecks in ihnen schützen. AI Defense basiert auf Ciscos Zukäufen von Armorblox und Robust Intelligence und soll ab März verfügbar sein.

(tiw)