Betreutes Lernen: Wie KI-Entwickler gegen Manipulationen durch Hacker kämpfen
In der IT-Sicherheit stellen manipulierte KI- und ML-Systeme eine Bedrohung dar. Doch mit den richtigen Ansätzen lässt sich die Software hiervor schützen.
(Bild: Skorzewiak/Shutterstock.com)
Ist im Bereich der IT-Sicherheit vom Einsatz der künstlichen Intelligenz oder des maschinellen Lernens die Rede, haben viele Experten vor allem die Abwehr von Hackern vor Augen. Doch dieselbe Technik können Angreifen ebenfalls verwenden, wie Stefan Strobel in der aktuellen iX 7/2020 erklärt.
Einige der Ansätze sind dabei noch nicht einmal neu: Jede KI-Software basiert auf Trainingsdaten – und Spammer verwenden schon länger manipulierte E-Mails, um diese zu vergiften. Hierzu bringt der Angreifer seine eigenen Nachrichten in den Lernvorgang ein und erreicht so, dass die Abwehr seine Spam-Mails nicht als solche erkennt.
Betreutes Lernmodell
Das funktioniert jedoch bloß, wenn die falschen Trainingsdaten unentdeckt bleiben. Entsprechend setzen die Hersteller von Abwehrsoftware auch auf ein betreutes Lernmodell. Hier trainiert die KI nicht in der freien IT-Wildbahn, sondern zunächst ausschließlich mit Informationen der Entwickler selbst. Das Ziel: Infizierte Systeme werden nicht als normale Datengrundlagen eingeordnet.
Mehr Informationen zu Chancen und Risiken der KI für die IT-Sicherheit finden Leser im Artikel:
(fo)
