Missing Link: Wer bändigt die Künstliche Intelligenz?
Seite 4: Pflicht zu Transparenz und Nachvollziehbarkeit
Trotzdem hält es das Mitglied der Enquete-Kommission für Künstliche Intelligenz des Bundestags für wichtig, "Kataloge von Transparenz- und Nachvollziehbarkeitspflichten" aufzustellen. Es brauche Mechanismen, um Aussagen der Maschine überprüfen zu können. Nur so könne verhindert werden, das ein System Beobachtungen oder Korrelationen einfach direkt in Kausalketten übersetze. Die technologischen Ansätze für eine solche "Explainable Artifical Intelligence" seien im Wesentlichen da, flankierende Gesetze sollten aber dazukommen.
Keine regulierungsfreien Räume
Um KI nachvollziehen zu können, "muss ich nicht in die Blackbox hineingucken", warnt Zweig zugleich vor zu hohen Auflagen. Systeme für algorithmische Entscheidungen "bringen ganz viele Informationen mit". So könne man bei einem automatisierten Prüfverfahren für Arbeitnehmer etwa sehen, wie viele Frauen sich auf welchem Level beworben und wie viele abgewiesen worden seien. Auf dieser Basis könne man "mit Statistiken argumentieren".
Nemitz will sich mit einer solchen einschränkten Transparenzlösung nicht zufrieden geben: "Es kann keine regulierungsfreie Räume geben", lautet seine Maxime. Die Politik dürfe nicht den Anspruch aufgeben, nur Technologien einzusetzen, "wo wir ganz selbstverständlich wissen", wie sie funktionierten. Dafür sei auch ein "Zugang zu Quellcode" unabdingbar. Gerade wer KI-Systeme an den Staat verkaufen wolle, müsse diese vollständig erklärbar liefern: "Sonst funktioniert die richterliche Nachprüfung nicht mehr."
Informationsüberlastung bei Prüfern
Mit der Nachvollziehbarkeit gestaltet es sich aber nicht so einfach. Die Microsoft-Forscherin Jennifer Wortman Vaughan und ihr Team fanden 2018 im Rahmen einer Studie heraus, dass Transparenzhinweise wie grafische Übersichten oder Angaben zu den verwendeten Daten für ein Modell für ein neuronales Netzwerk bei Prüfern zu einer Informationsüberlastung führen können. Die Werkzeuge halfen den kontrollierenden Wissenschaftlern zwar, einige Fehler im Ausgangsmaterial auszumachen, dazu kam aber die Tendenz, sich auf die Visualisierungen einfach zu verlassen und sie sogar falsch zu interpretieren, nach dem Motto, dass die Maschine schon richtig liege. Manche Teilnehmer hinterfragten ein KI-Schema selbst dann nicht, wenn sie zugeben mussten, dessen Funktionsweise nicht zu verstehen.
Kulturwissenschaftler beschreiben selbstlernende Algorithmen, denen Programmierer nur gewisse Regeln zur Zielerreichung vorgeben, häufig als völlig undurchdringliche Blackbox-Systeme. Es handle sich um Objekte, "die nur durch ihr äußeres Verhalten verstanden werden können, deren innere Struktur sich aber der Erkennung entzieht", schreibt der Schweizer Medientheoretiker Felix Stalder. Dieser Charakter trägt laut den Initiatoren des Projekts "Silent Works", Magdalena Taube und Krystian Woznicki, zu der weit verbreiteten Annahme bei, dass solche Algorithmen quasi-autonom arbeiteten und Training oder Aufsicht unnötig seien.
KI-getriebener Kapitalismus und seine "digitalen Sklaven"
Diese Vorstellung enthüllt für das Duo, das sein aktuelles Forschungsvorhaben am Freitag auf dem Berliner Medienkunstfestival Transmediale präsentierte, "die Agenda des KI-getriebenen Kapitalismus". In diesem solle in logistisch optimierten und von menschlicher Arbeit emanzipierten Prozessen Wert geschaffen werden. Es gehe darum, praktisch unhinterfragt Daten zu sammeln, zu zählen und zu analysieren und sich des Ärgers entledigen, den menschliche Arbeiter durch Streiks, Revolten und andere Formen des Ungehorsams immer wieder verursacht hätten. 24 Stunden im Netz aktive Bots seien daher der Idealtypus des digitalen Sklaven.
Dass im Hintergrund oft weiter Menschen auf die im globalen Süden erstellten Bildschirme starrten, in sozialen Netzwerken Inhalte teilten oder moderierten und so "die stille Arbeit der Optimierung" verrichteten, bleibt in diesem Bild den Projektmachern zufolge oft außen vor. Dabei seien just diese Tätigkeiten unentbehrlich für den Überwachungskapitalismus, sodass Arbeit wieder eine "einzigartige politische Qualität" gewinne und sich die Ausführenden dieser Machtposition auch bewusst werden müssten.
