KI-Kommission des Bundestags: Verweigern ist keine Option

Inhaltsverzeichnis

Nach gut zwei Jahren Arbeit hat die Enquete-Kommission Künstliche Intelligenz (KI) des Bundestags am Mittwoch ihren Abschlussbericht an Parlamentspräsident Wolfgang Schäuble (CDU) übergeben. Die 19 Abgeordneten und 19 externen Sachverständigen haben das Werk unter das Leitbild einer "menschenzentrierten KI" gestellt und wandeln damit auf den Spuren der Bundesregierung, die mit ihrer KI-Strategie das Gemeinwohl in den Vordergrund rückte.

Den KI-Wertewandel demokratisch gestalten

Die rund 800 Seiten durchzieht eine "Ja, aber"-Haltung zu der ausgemachten nächsten Stufe "einer durch technologischen Fortschritt getriebenen Digitalisierung". Der von KI vorangetriebene Wertewandel sei "nicht per se schlecht", müsse aber demokratisch gestaltet werden, heißt es etwa. KI-Anwendungen sollten "vorrangig auf das Wohl und die Würde der Menschen ausgerichtet sein und einen gesellschaftlichen Nutzen bringen". Nur so lasse sich das positive Potenzial der Schlüsseltechnik ausschöpfen sowie das für ihren wirtschaftlichen Erfolg nötige Vertrauen der Nutzer begründen und bestärken.

Das Gremium plädiert für eine KI made in Germany mit "europäischer Prägung", die sich vom staatsdirigistischen chinesischen und marktgetriebenen US-amerikanischen Ansatz abhebt. Auf dem von der EU-Kommission und der Datenethik-Kommission eingeschlagenen Weg, KI-Systeme in Risikoklassen einzuteilen und besonders gefährliche Varianten wie automatisierte Gesichtserkennung möglicherweise zu verbieten, wollte die Mehrheit der Beteiligten aber nicht wandeln.

2017 hatte die SPD noch einen Algorithmen-TÜV gefordert, damit niemand durch softwaregestützte Entscheidungen diskriminiert werde oder zu Schaden komme. Für solche Regulierungsvorgaben gebe es in der Sozialdemokratie nach wie vor "Sympathie", erklärte die Vorsitzende der KI-Kommission, Daniela Kolbe. Dafür habe es aber "keinen breiten Konsens" gegeben.

Ächtung autonomer Waffen

"Wir werden uns keine DIN-Vorschriften ausdenken", um KI einzuhegen, konstatierte die SPD-Abgeordnete. Sie fände es aber gut, wenn Unternehmen auf einem digitalem DIN-A4-Zettel mögliche Risiken ihres Systems anführten. KI-Lösungen, die der Staat anwendet, sollten zudem auf Risiken überprüft werden, sei sich die Mehrheit einig gewesen. Auch die schon in einem Zwischenbericht geforderte Ächtung autonomer tödlicher Waffensysteme sei Bestandteil der finalen Ratschläge.

Ein Antrag aus der Opposition, wonach sich die Regierung international für den Bann von "Killer-Robotern" stark machen sollte, fand unlängst keine Mehrheit im Bundestag. Trotzdem betonte SPD-Obmann Rene Röspel, die Volksvertreter erwarteten, dass sich die Exekutive "mindestens Teile der Empfehlungen zu eigen macht" und etwa in die nächsten Versionen ihrer KI-Strategie einarbeite. Für den Sozialdemokraten ist auch klar, dass neue Prüfinstanzen nötig sind. Nur allgemeine Normen zu setzen und sonst auf die Selbstregulierung der Wirtschaft zu hoffen, reiche nicht aus.

"Wir haben viele Praxisbeispiele betrachtet und dabei festgestellt: Wir brauchen keinen Algorithmen-TÜV und keine neuen Aufsichtsbehörden", meinte dagegen die Obfrau der CDU/CSU-Fraktion, Ronja Kemmer. Die Politik könne "auf bestehende Mechanismen und Prinzipien aufsetzen, etwa bei der Zulassung von KI-Systemen oder bei der Absicherung von etwaigen Risiken". Sich der KI als Technologie verweigern zu wollen, sei "keine ernstzunehmende Option".

Gefährdet KI Arbeitsplätze?

Umstritten war auch der Bereich Arbeit, wo die Ambivalenz der Technik deutlich zutage trat. KI eröffne Chancen für Arbeitnehmer, löse bei ihnen aber auch Ängste aus, hielt die zuständige Projektgruppe fest. Gefährliche, körperlich schwere und immer wiederkehrende Arbeiten könnten reduziert werden und KI-Systeme bei der Lösung komplexer Aufgaben eine unterstützende Funktion erfüllen. Andererseits bestehe "ein schmaler Grat zwischen der Unterstützung menschlicher Tätigkeiten und Formen der Einschränkung der Entscheidungsautonomie". Folgen könnten eine "Arbeitsverdichtung", eine rigidere Kontrolle der Leistung und eine "Entwertung menschlichen Erfahrungswissens" sein.

Eine Kernfrage für viele sei, "ob das eigene Beschäftigungsverhältnis durch den Einsatz von KI-Systemen gefährdet ist", ist der Kommission nicht entgangen. Evidenzbasierte Forschungsergebnisse dazu gebe es bisher nur wenige. Bisherige Automatisierungswellen hätten "nicht zu großen Nettoverlusten bei der Beschäftigung geführt". Nun betreffe KI aber auch Bereiche kognitiver Arbeit, "die sich in der Vergangenheit als relativ automatisierungsresistent erwiesen haben". Möglicherweise werde im Arbeitsmarkt so ein "Mismatch" entstehen – also die Koexistenz von "disruptiven Arbeitsplatzverlusten auf der einen" und Fachkräftemangel auf der anderen Seite.

Empfohlener redaktioneller Inhalt

Mit Ihrer Zustimmmung wird hier eine externe Umfrage (Opinary GmbH) geladen.

Umfragen immer laden Umfrage jetzt laden

Ich bin damit einverstanden, dass mir externe Inhalte angezeigt werden. Damit können personenbezogene Daten an Drittplattformen (Opinary GmbH) übermittelt werden. Mehr dazu in unserer Datenschutzerklärung.

Auch der Schutz der Persönlichkeitsrechte, die Organisation von Mitbestimmung, Transparenz und Vertrauenskulturen würden vom Einsatz lernender Maschinen berührt, hält die Kommission fest. Beschäftigte und ihre Interessenvertretungen sollten daher gemäß dem Prinzip "Gute Arbeit by Design" etwa bereits bei der Definition der Ziele und Konfiguration von KI-Systemen "ebenso wirksam mitgestalten können wie bei der Evaluation, dem Betrieb und der Fortentwicklung der sozio-technischen Einsatzbedingungen".

KI-Kompetenz leichter ausbauen

Das Gremium fordert einen einfachen Zugang zu Weiterbildungs- und Beratungsangeboten, um die eigene KI-Kompetenz ausbauen zu können. Letztlich müssten in Personalfragen weiter Menschen entscheiden. Uneins war sich die Kommission, wie die Sozialsysteme angepasst und etwa auf Solo-Selbständige und Beschäftigte über Online-Plattformen ausgedehnt werden sollten, sodass es dazu sogenannte Sondervoten einzelner Fraktionen gibt.

Um Vorverurteilungen durch KI entgegenzuwirken, raten die Verfasser, den Transfer bereits bestehender Forschungserkenntnisse zu diesem Aspekt in den Software-Entwicklungsalltag zu fördern. Individuen müssten in die Lage versetzt werden, sich gegen Diskriminierung durch die Technik zu wehren. Dazu erforderlich sei ein "Anspruch auf Transparenz, Nachvollziehbarkeit und Erklärbarkeit von KI-Entscheidungen", damit diese gerichtlich überprüft werden könnten.

Mit Blick auf Daten fordert die Kommission unter anderem den Aufbau einer europäischen Infrastruktur und verweist auf die Pläne für das Cloud-Projekt Gaia-X. Zudem soll Unternehmen der Zugang zu und das Teilen von Daten erleichtert werden, wozu das Kartell- sowie das Wettbewerbsrecht angepasst werden müsste. Dazu kommt der Ruf nach offenen Schnittstellen bei reichweitenstarken Online-Plattformen, über die Journalisten, Wissenschaftler sowie Marktaufsichtsbehörden Zugriff auf deren große Datenpools bekommen und Phänomene wie Social Bots untersuchen können sollen.

Nachhaltigkeit fördern

Auch der Punkt ökologische Nachhaltigkeit spielt eine Rolle. Hier verlangt das Gremium von der Regierung, KI-Anwendungen zum Nutzen von Umwelt und Klima ambitionierter zu fördern, auszubauen und umzusetzen. die Datenbasis zu positiven und negativen Effekten der Technik etwa auf den Energieverbrauch von Rechenzentren müsse verbessert werden.

Um die Glaubwürdigkeit journalistischer Arbeit zu gewährleisten, spricht sich die Kommission für eine konsequente einheitliche Kennzeichnung KI-generierter Texte aus. Im Kampf gegen "Deep Fakes" sei der Aufbau einer unabhängigen Einrichtung ratsam, die die technische Analyse von Medieninhalten unterstütze. Ursprung, Authentizität und Aussagekraft von Mediendaten müssten in verschiedenen Handlungsfeldern überprüft werden.

Die Auswahl und Ausgabe von Nachrichten werde aufgrund der großen Menge verfügbarer Information oft algorithmisch gesteuert, heißt es weiter. Die Entscheidungen darüber könnten Vielfalt und Charakter des öffentlichen Diskurses bestimmen und damit auch die politische Kommunikation, die Meinungsbildung und Wahlentscheidungen. Persönliche Verhaltensdaten, die für politisches Microtargeting nutzbar sind, sollten daher begrenzt werden.

KI-basierte Upload-Filter sind nach Überzeugung der Teilnehmer zum gegenwärtigen Zeitpunkt nicht geeignet, Urheberrechtsverletzungen im juristischen Sinne oder "Hassrede" sicher festzustellen. Von einem "routinierten Einsatz" solcher Instrumente ohne menschliche Kontrolle und Evaluation sei daher dringend abzuraten, "um die Meinungs- und Informationsfreiheit im Internet auch künftig zu bewahren".

KI und Informatik in die Schulen

KI, aber auch die Grundlagen dafür wie Mathematik, abstraktes Denken, Verständnis für gesellschaftliche Auswirkungen, müssten in die Lehrpläne aller Schularten einziehen, lautet ein weiterer Tipp. Informatik müsse Pflichtfach werden. Kompetenzen zu KI und Algorithmik sollten jahrgangsstufengerecht daneben auch als Querschnittsthema im gesamten Fächerkanon aufgenommen werden. Schulen sowie Universitäten müssten Angebote entwickeln, die Mädchen und junge Frauen für Informatik und KI interessieren und ihnen Gestaltungsmöglichkeiten mitgeben.

Vertreter fast aller Fraktionen werteten die Arbeit der Kommission insgesamt als Erfolg. Es gehe nun vor allem darum, dass die Regierung die Ideen nicht in der Schublade verschwinden lasse, wie dies vielfach bei der Enquete-Kommission "Internet und digitale Gesellschaft" 2013 der Fall gewesen sei. Grüne und Linke monierten, dass das Gremium meist hinter verschlossenen Türen getagt und die Chance auf eine größere gesellschaftliche Debatte so verpasst habe.

"Die gesellschaftspolitischen Kollateralschäden von KI-getriebenen sozialen Netzwerken und Medienplattformen erfahren im Bericht keine angemessen starke Gewichtung", bedauerten die Grünen-Mitglieder Anna Christmann und Dieter Janecek. Ein Kernproblem für die Demokratie sei so nicht hinreichend beleuchtet worden. Die Linke hat besonders viele Sondervoten abgegeben. Sie stimmte gegen die Kapitel zu Ethik sowie Wirtschaft und enthielt sich zum restlichen Teil.

Veröffentlicht hat die Kommission zunächst eine Kurzfassung ihrer Ergebnisse. Ebenfalls bereits verfügbar sind über die Homepage des Gremiums die vorläufigen Resultate der einzelnen Projektgruppen. Der gesamte Abschlussbericht soll zeitnah publiziert werden – ihm fehlt noch die offizielle Drucksachen-Nummer des Bundestags.

(mho)