Automatische Entscheidungen per Algorithmus: Wenige positive Beispiele in Europa

Inhaltsverzeichnis

Systeme für "automated decision-making" (ADM) breiten sich in Europa in Wirtschaft und Verwaltung immer weiter aus, konstatiert AlgorithmWatch in ihrer aktuellen deutschen Ausgabe des "Automating Society Report 2020". Die Bestandsaufnahme zeige aber, dass die oft von der Politik in den Fokus gerückten "positiven Beispiele, die echte Vorteile bringen, rar gesät sind". Aus dem gesamten Bericht gehe hervor, dass "die überwältigende Mehrheit der aktuellen Nutzungen Menschen tendenziell eher einem Risiko aussetzt, als ihnen zu helfen".

Ununterbrochene Überwachung bald Normalität?

Biometrische Gesichtserkennung etwa werde "mit alarmierender Geschwindigkeit in ganz Europa getestet" und auch zunehmend genutzt, bringt die gemeinnützige Organisation ein Beispiel. Ohne einzuschreiten drohe die dystopische Vorstellung, ununterbrochen verdeckt beobachtet zu werden, zur Normalität zu werden. Dadurch würde sich ein neuer Status quo "flächendeckender Massenüberwachung" verfestigen.

Besonders beunruhigend ist diese Tendenz laut dem von der Bertelsmann-Stiftung unterstützen Report, wenn sie "mit dem verbreiteten Mangel an Fähigkeiten und Kompetenzen rund um ADM-Systeme im öffentlichen Sektor einhergeht". Es sei anzunehmen, dass Amtsträger die Technik oft nicht verstünden und daher auch nicht angemessen Auskunft darüber geben könnten.

Es mangele an Transparenz, die automatisierten Entscheidungsverfahren würden "größtenteils ohne jede vernünftige demokratische Debatte" und Kontrolle genutzt, zeichnen die Autoren ein "beunruhigendes Szenario". Polen verfüge Intransparenz sogar von oben: Das Gesetz für ein automatisiertes System zum Aufspüren von Bankkonten, die für illegale Aktivitäten genutzt werden ("Stir"), sehe bis zu fünf Jahre Gefängnis vor, wenn jemand die verwendeten Algorithmen und Risikoindikatoren offenlege.

Europaweit Experimente

ADM-Systeme und damit verknüpfte Beurteilungen wirken sich laut dem Bericht verstärkt auf jeden einzelnen Bürger aus. In Deutschland seien etwa im Sicherheitsbereich Anwendungen zur Risikoprognose wie Radar-iTE oder Precobs für "Predictive Policing" auf dem Vormarsch. Polizeiintern würden sie genutzt, um das Bedrohungspotenzial unter Beobachtung stehender Islamisten zu analysieren oder Hotspots für Einbrüche vorherzusagen. In Estland verteile der Staat über einen automatisierten Online-Dienst Familienzuschüsse.

Italien experimentiere mit "voraussagender Rechtsprechung", heißt es weiter. Dabei zeigten Algorithmen Richter auf, wie frühere Urteile zum jeweiligen Streitgegenstand tendenziell ausgefallen seien. In Frankreich sei es zulässig, Daten aus sozialen Netzwerken zu sammeln und mithilfe von maschinellem Lernen auszuwerten, um Steuerbetrug aufzudecken. Die dänische Regierung versuche, jede Tastatureingabe und jeden Mausklick zu überwachen, die Studenten bei Prüfungen auf ihren Computern tätigen.

Überzeugende Beispiele für einen solchen positiven Einfluss von ADM haben die Beobachter nur wenige gefunden. Sie verweisen auf das spanische System VioGén, mit dem Risiken für häusliche Gewalt abgeschätzt würden. Dieses sei zwar "bei Weitem noch nicht perfekt", habe aber nachweisbar geholfen, viele Frauen zu schützen. In Portugal habe ein zentrales automatisiertes System geholfen, Betrug rund um Rezeptverschreibungen innerhalb eines Jahres um 80 Prozent zu reduzieren. In Slowenien setzten die Behörden auf ein ähnliches Verfahren, um Steuerbetrug zu bekämpfen.

Potenzielle Risiken, reale Vorteile?

Dagegen fanden die Experten hierzulande kaum Belege für die oft zu hörende These, dass Künstliche Intelligenz (KI) zum Klimaschutz beitrage. Der Stromversorger Next Kraftwerke etwa nutze zwar maschinelles Lernen, um das Produktionsniveau von Solarfarmen und die Verbrauchsmengen seiner Kunden zu prognostizieren. Andere einschlägige Projekte seien aber weniger erfolgreich. Bei Anbietern wie Naturstrom oder dem Windradhersteller VSB spiele KI gar keine Rolle.

Nicht nur in diesem Aspekt kritisieren die Verfasser das Weißbuch der EU-Kommission zu Künstlicher Intelligenz. Im ganzen Dokument würden mit solchen Technologien verbundene Risiken als "potenziell" bezeichnet, die Vorteile dagegen als real und unmittelbar greifbar. Die Brüsseler Regierungsinstitution setze so die Prioritäten völlig falsch und stelle globale Wettbewerbsfähigkeit werde über den Schutz der Grundrechte. So verwundere es nicht, dass in der EU ADM-Systeme vor allem bei der Grenzkontrolle und (biometrischer) Überwachung Eingang fänden.

AlgorithmWatch fordert, einen rechtlich verbindlichen Rahmen für den Zugang zu Daten für ADM einzuführen, um Audits und "Forschung im öffentlichen Interesse zu unterstützen und zu ermöglichen". Wichtig sei ferner eine Rechenschaftspflicht für Betreiber. Die EU-Staaten sollten verpflichtet werden, öffentliche Register für ADM-Systeme einzurichten, die im öffentlichen Sektor genutzt werden.

"Alle öffentlichen Nutzungen von Gesichtserkennung, die sich zu Massenüberwachung auswachsen könnten", sollten schnellstmöglich auf EU-Ebene bis auf Weiteres verboten werden, verlangt die Organisation. Sie plädiert zudem dafür, "unabhängige Kompetenzzentren für ADM auf nationaler Ebene einzurichten". Sie sollten etwa dazu dienen, Algorithmen zu kontrollieren und zu bewerten und Informationen dazu zu publizieren.

(mho)