AI Act: KI-Nutzung nur noch mit ausreichender Kompetenz
Mit dem 2. Februar 2025 greift eine neue Stufe der KI-Verordnung. Es gibt Verbote und eine Kompetenz-Pflicht fĂĽr alle Mitarbeiter.
(Bild: Shutterstock/Sansoen Saengsakaorat)
Ab sofort sind KI-Systeme mit unannehmbarem Risiko verboten. Das betrifft etwa sogenannte Social-Scoring-Anwendungen, bei denen die Bürgerinnen und Bürger überwacht werden. Nicht, dass es diese Systeme bisher in der EU gegeben hätte. Der AI Act, der im vergangenen August in Kraft getreten ist, stellt damit jedoch sicher, dass solche Systeme auch künftig nicht genutzt werden. Das Verbot gilt ab dem Stichtag, 2. Februar 2025. Das Gesetz gelangt nämlich stufenweise in Anwendung.
Neben dem Verbot mancher KI-Anwendungen gehen aber auch weitere Verpflichtungen mit dem Datum einher. Unter anderem dĂĽrfen Mitarbeiterinnen und Mitarbeiter nur dann KI am Arbeitsplatz nutzen, wenn sie dafĂĽr ausreichend kompetent sind. Was das genau bedeutet, ist allerdings etwas schwammig. "Die Anbieter und Betreiber von KI-Systemen ergreifen MaĂźnahmen, um nach bestem Wissen und Gewissen sicherzustellen, dass ihr Personal und andere Personen, die in ihrem Auftrag mit dem Betrieb und der Nutzung von KI-Systemen befasst sind, ĂĽber ausreichende KI-Kompetenz verfĂĽgen", heiĂźt es im AI Act Artikel 4. Kompetenz bedeutet demnach "technische Kenntnisse, Erfahrung, Aus- und Weiterbildung", zudem mĂĽssen Anwender den Kontext verstehen, in dem sie KI nutzen wollen.
Diese Verpflichtung gilt für alle Unternehmen, unabhängig von der Größe oder der Ausrichtung, und auch für alle KI-Anwendungen, unabhängig von der Risikostufe, in die sie eingeordnet sind. Was nicht ganz klar wird, ist, wer als Betreiber gilt. Fraglich ist, ob Mitarbeitende betroffen sind, die in ihrem Arbeitsalltag beispielsweise ChatGPT nutzen, oder ob es darum geht, einen eigenen Chatbot aufgesetzt zu haben – und man dadurch eine KI-Anwendung betreibt. Mehr zur KI-Kompetenz finden Sie auch in unserer FAQ dazu.
KI-Verordnung fĂĽr General Purpose AI
Strafen sind zunächst im AI Act selbst nicht vorgesehen, wenn Mitarbeitende keine ausreichende Kompetenz haben. Diese festzustellen dürfte auch ziemlich schwierig sein – möglich ist es aber wahrscheinlich dennoch. Grundsätzlich sind Strafen, die in Artikel 99 festgehalten sind, erst ab dem 2. August 2025 vorgesehen. Bis dahin müssen die einzelnen Mitgliedsstaaten auch erst nationale Behörden benennen, die den AI Act überwachen.
Für die sogenannten KI-Modelle mit allgemeinem Verwendungszweck, auch General Purpose AI (GPAI) genannt, soll in drei Monaten außerdem ein Leitfaden erscheinen, der den rechtssicheren Umgang mit ihnen beschreibt. Weitere drei Monate später, also ebenfalls wie die Strafen zwölf Monate nach Inkrafttreten der KI-Verordnung, gelten nämlich auch die Verpflichtungen für GPAI. Es geht dabei um etwa eine technische Dokumentationspflicht, die noch nicht geklärte Frage nach dem Urheberrecht und KI, dazu gehört auch die Offenlegung der Trainingsdaten und mehr.
(emw)