Markt + Trends | IT-Sicherheit | iX

Europol sieht vielfältige Missbrauchsszenarien

In ihrer Studie warnt die europäische Polizeibehörde vor dem Missbrauch großer Sprachmodelle wie ChatGPT durch Kriminelle und fordert Strafverfolgungsbehörden dazu auf, sich mit solchen Systemen zu befassen.

In einigen Workshops haben sich Experten von Europol damit beschäftigt, welche potenziellen Auswirkungen die neuen Möglichkeiten großer Sprachmodelle (Large Language Models, LLMs) wie ChatGPT auf die Kriminalität haben und was das für die Strafverfolgungsbehörden bedeutet. Ihre Ergebnisse veröffentlichte Europol Anfang April 2023 im Report „ChatGPT – The impact of Large Language Models on Law Enforcement“ (siehe ix.de/zmgw). Eine detailliertere Version des Berichts ist den Strafverfolgungsbehörden vorbehalten.

Europol (2023)

Der Bericht beschreibt zunächst die Fähigkeiten des eingesetzten KI-Chatbots ChatGPT und seine Grenzen, die einerseits systemimmanent sind und sich andererseits durch die eingebauten Sicherheitsmechanismen ergeben. Denn ChatGPT soll keine Fragen beantworten, die schädlich oder voreingenommen sind. Diese Sicherheitsmechanismen werden zwar ständig aktualisiert, können aber mit dem richtigen Prompt Engineering umgangen werden.