Wie man private Chatbots in Azure absichert
Trotz Risiken durch den Einsatz großer Sprachmodelle faszinieren die Möglichkeiten. Ein Umgang mit diesen neuen Gefahren setzt voraus, dass man sie kennt.
- Armin Berberovic
Die Fähigkeit, natürliche Sprache zu verarbeiten, hält rasch Einzug in viele Applikationen, angetrieben durch den Wunsch von Unternehmen, die Möglichkeiten künstlicher Intelligenz auszuschöpfen. Die Adaption dieser neuen Technologie schafft jedoch zusätzliche Angriffsflächen, die sich böswillige Akteure zunutze machen können. iX hat sich intensiv mit den Grundlagen zum Thema Angriffe auf KI beschäftigt. Dieser Artikel geht auf die Gefahren ein, die aus der Verwendung großer Sprachmodelle entstehen, und erläutert praxisnah, wie potenzielle Schutzmaßnahmen in Azure aussehen können.
Als Blaupause dient ein mit Azure-nativen Diensten entwickelter Chatbot. Der kann nicht nur externe Dokumente im Rahmen einer RAG-Architektur (Retrieval Augmented Generation) verarbeiten, sondern durch den Einsatz von Tools mit externen APIs interagieren und so etwa automatisierte Prozesse anstoßen. Der Artikel betrachtet den Chatbot als eigenständige Anwendung, grundsätzlich kann er aber auch Teil einer anderen Anwendung sein, ohne dass die hier diskutierten Aspekte sich ändern.
- Die Nutzung großer Sprachmodelle auf unternehmenseigenen Daten birgt Gefahren für die Sicherheit vertraulicher Informationen.
- Mit einer sinnvollen Datentrennung im LLM lassen sich Lecks verhindern.
- Prompt Shields, Spotlighting und Human-in-the-Loop schützen vor Prompt Injections.
- Nicht nur das LLM, sondern auch die Infrastruktur muss geschützt werden.
Die empfohlenen Gegenmaßnahmen folgen einem Defense-in-Depth-Ansatz, bei dem mehrere Verteidigungslinien einen Angriff abwehren sollen. Kenntnisse über Azure-Dienste im Umfeld von AI und Sicherheit sind für das Verständnis hilfreich, die wesentlichen Aspekte werden im Verlauf des Artikels erklärt.
Das war die Leseprobe unseres heise-Plus-Artikels "Wie man private Chatbots in Azure absichert". Mit einem heise-Plus-Abo können Sie den ganzen Artikel lesen.
