Software Testing: Sicherheitstests für KI-Systeme
Was macht KI-Systeme angreifbar? Ein Überblick über Sicherheitslücken, manipulierte Trainingsdaten und wirksame Tests wie Penetrationstests.
(Bild: Richard Seidl)
- Richard Seidl
- Jan Jürjens
In dieser Episode sprechen Richard Seidl und Jan Jürjens über Sicherheitstests in KI‑Systemen. Die beiden beleuchten Herausforderungen rund um selbstlernende Software, diskutieren typische Angriffsflächen und wie sich manipulierte Trainingsdaten oft schwer erkennen lassen. Jan Jürjens gibt Einblicke in praktische Schutzmechanismen und betont die Wichtigkeit intensiver Tests, etwa durch Penetrationstests und Filter für sensible Anfragen.
Empfohlener redaktioneller Inhalt
Mit Ihrer Zustimmung wird hier ein externes YouTube-Video (Google Ireland Limited) geladen.
Ich bin damit einverstanden, dass mir externe Inhalte angezeigt werden. Damit können personenbezogene Daten an Drittplattformen (Google Ireland Limited) übermittelt werden. Mehr dazu in unserer Datenschutzerklärung.
Jan Jürjens verfügt über mehr als 25 Jahre praktische Erfahrung mit Softwaresicherheit. Erstes Buch (2005) ins Chinesische übersetzt. Aktuell: Director Research Projects (Fraunhofer ISST); Professor & Leiter, Institut Softwaretechnik (Uni Koblenz). Vorher: Professor für Software Engineering (TU Dortmund), Senior Member/Research Fellow (Robinson College, Uni Cambridge), Royal Society Industrial Fellow (Microsoft Research Cambridge), Postdoc (TU München), PhD Informatik (Uni Oxford) in Softwaresicherheit, Dipl.-Math. (Uni Bremen).
(Bild: erstellt mit KI durch iX)
Am 11. Mai zeigt die Online-Konferenz „KI und Security“ von iX und dpunkt.verlag, wie man sich gegen Angriffe auf KI-Anwendungen schützt und wie KI-Tools bei sicherer Softwareentwicklung helfen.
Software-Testing im Gespräch
Bei diesem Format dreht sich alles um Softwarequalität: Ob Testautomatisierung, Qualität in agilen Projekten, Testdaten oder Testteams – Richard Seidl und seine Gäste schauen sich Dinge an, die mehr Qualität in die Softwareentwicklung bringen.
Die aktuelle Ausgabe ist auch auf Richard Seidls Blog verfügbar: „Sicherheitstests für KI-Systeme – Jan Jürjens“.
(mdo)
