Transparenzregister soll staatliche KI-Desaster verhindern

Die Ampel-Koalition erwärmt sich für die Einrichtung eines öffentlichen Registers für staatlich eingesetzte Systeme mit Künstlicher Intelligenz (KI). Es soll helfen, den Einsatz automatisierter Entscheidungssysteme in der öffentlichen Verwaltung transparent zu machen. Am heutigen Freitagmorgen stellen die Grünen im Bundestag dazu gemeinsam mit dem IT-Beauftragten der Bundesregierung, Markus Richter, bei einem "parlamentarischen Frühstück" im Bundestag ein Konzeptpapier der Organisation AlgorithmWatch vor.

"Die öffentliche Verwaltung kann Automatisierungs- und KI-Verfahren nutzen, um ihre Angebote und Prozesse erheblich zu verbessern", heißt es in dem Impuls. Um gleichzeitig die Digitalkompetenzen der Behörden zu fördern, die Rechte der Bürger zu schützen und das Gemeinwohl zu stärken, "sollten Bund und Länder ein KI-Transparenzregister einrichten". Ziel sei es, die wichtigsten Informationen über Systeme für "Automated Decision-Making" (ADM), die in der öffentlichen Verwaltung zum Einsatz kommen, inklusive der dabei verwendeten Methoden öffentlich abrufbar zu machen.

Diesem soll dem Papier zufolge ein strukturiertes Verfahren vorausgehen, "das die Behörden intensiv bei der Konzeption und Entwicklung ihrer algorithmischen Systeme unterstützt". Die Potenziale der Automatisierung ließen sich nur dann nutzen, wenn die Behörden eine fundierte Einschätzung zu der Frage erlangten, "wie die Systeme zielführend eingesetzt werden können" und wie sich unerwünschte Auswirkungen vermeiden ließen. Betroffene Bürger wiederum würden befähigt, automatisierte Entscheidungen besser nachzuvollziehen und von Schutzrechten Gebrauch zu machen.

Unerwünschte Auswirkungen vermeiden

"Wir können in anderen Länder sehen, welche katastrophalen Folgen es haben kann, wenn die öffentliche Verwaltung ihre Verfahren automatisiert und dabei Fehler macht", erklärte Matthias Spielkamp, Mitgründer und Geschäftsführer von AlgorithmWatch, gegenüber heise online. In der sogenannten Kindergeldaffäre seien in den Niederlanden in zehntausenden Fällen vor allem migrantische Familien fälschlich beschuldigt worden, das Sozialsystem zu betrügen. In Australien habe ein ähnlicher Vorfall 400.000 Sozialhilfeempfänger betroffen.

"Man kann sich leicht vorstellen, welche Existenznöte das ausgelöst hat, bei Rückforderungen von teilweise fünfstelligen Summen", hebt Spielkamp hervor. "Wir müssen alles daran setzen, dass so etwas in Deutschland nicht passiert." Er denkt dabei etwa an die geplante Kindergrundsicherung, "die stark automatisiert abgewickelt werden soll". Dabei gehe es nicht nur um Kontrolle. Der ADM-Experte betont: "Ein KI-Register, wie wir es entwickelt haben, würde auch dafür sorgen, dass die Behörden aktiv dabei unterstützt werden, Systeme gut und richtig einzusetzen."

In der Einladung zu der Präsentation des Papiers schreiben die Grünen-Abgeordneten Misbah Khan und Anna Christmann: "Die Ampel-Koalition hat sich als zentrales Projekt vorgenommen, die staatlichen Strukturen, Prozesse und Arbeitsweisen zu modernisieren. Digitalisierung, Automatisierung und der Einsatz von KI und ADM leisteten "einen wichtigen Beitrag dabei, dass der Staat den Menschen einen guten Service bietet und mit den Menschen zeitgemäß kommuniziert". Wo automatische Entscheidungssysteme eingesetzt würden, brauche es Umsicht und Offenheit, "um das nötige Vertrauen zu schaffen und Rechte wie Diskriminierungsfreiheit zu wahren", hob Khan zusätzlich hervor. Ein ADM-Register könne dabei "einen wichtigen Mehrwert leisten".

Kennzeichnungspflicht im Hochrisikobereich

Die SPD-Bundestagsfraktion hat sich im Januar in einem Positionspapier zu KI auch für mehr Transparenz und eine "Kennzeichnungspflicht für alle KI-Anwendungen im Hochrisikobereich" ausgesprochen. Der Staat habe in diesem Bereich eine besondere Verantwortung vor allem bei öffentlichen Stellen "mit Verfügungsgewalten in den Bereichen Sicherheit, Migration, Asyl oder Steuern". Dieser Schuldigkeit wollen die Sozialdemokraten "mit einem Register begegnen, das für jede:n zugänglich alle staatlich eingesetzten KI-Anwendungen inklusive ihrer Einsatzzwecke auflistet". Dazu dürfe es nur "eng begrenzte Ausnahmen" geben.

Bei den Liberalen gibt es ebenfalls Unterstützer für das Vorhaben. So brachte die FDP-Fraktion im Berliner Abgeordnetenhaus vor ihrem Ausscheiden nach der Wiederholungswahl im Februar noch einen Antrag für ein "Verfahrensverzeichnis für automatisierte Entscheidungsprozesse in der Verwaltung" in das Parlament der Hauptstadt ein. Ein solches Online-Register "muss alle relevanten Daten über den Einsatz von Automatisierungssystemen in der öffentlichen Verwaltung enthalten, um eine unabhängige Prüfung durch Externe – aus Wissenschaft, Zivilgesellschaft, Journalismus – zu ermöglichen", heißt es darin. Generell sollten bei KI in Ämtern "Autonomie, Gerechtigkeit und Fairness, Schadensvermeidung und Bürgerwohl als grundlegende Maßstäbe gelten".

(olb)