OWASP Top 10 für große KI-Modelle
In Rekordgeschwindigkeit hat das Open Web Application Security Project (OWASP) die erste Topliste mit den 10 größten Schwachstellen großer Sprachmodelle veröffentlicht. Neben vielen alten Bekannten enthält die Liste auch diverse Besonderheiten.
Schon Karl Marx wusste: Die Geschichte wiederholt sich immer zweimal – das erste Mal als Tragödie, das zweite Mal als Farce. Und so entdecken Entwickler, Anwender und Sicherheitsexperten mit jeder technischen Revolution wieder, dass scheinbar neue Klassen von Risiken auftreten, die aber merkwürdig bekannt erscheinen. Schon bei der Virtualisierung hat man festgestellt, dass Codeausführung nicht nur den dafür vorgesehenen Strukturen innerhalb eines Programms entkommen kann (Stack Overflow), sondern auch ein Ausbruch (Escape) aus VMs und Containern möglich ist. Momentan bemerken Experten verdutzt, dass ihre Lieblingskategorien von Problemen – etwa Information Leakage, Denial of Service, Injektionen und nutzergenerierte Daten – auch in der boomenden KI-Welt Security-Ärger machen.
Nur machen sie den jetzt im doppelten Sinn: Zum einen sind KI-Anwendungen wie die momentan besonders gehypten Large Language Models (LLMs) komplexe IT-Anwendungen und damit grundsätzlich für alle typischen Schwachstellen der eingesetzten Technik anfällig. Wenn man eine Web-API abschießen oder DDoSsen kann, kann das auch mit einem Machine-Learning-Dienst passieren. Und wenn Angreifer in ein SAN einbrechen, können sie auch das dort gespeicherte LLM mitnehmen.