Kontrollierte Intelligenz
KI zwischen Hype und Dämon
Viele Technikgurus und Manager schreiben künstlicher Intelligenz übermenschliche Fähigkeiten zu. Damit provozieren sie aber auch Ängste, und die Rufe nach Regulierung werden immer lauter. Um die aufgebauschte Debatte zu erden, erklären wir die Technik sowie Einsatzzwecke und Gefahren.
Der Begriff KI ist heutzutage allgegenwärtig und wird so inflationär benutzt, dass seine Definitionsgrenzen mehr und mehr verschwimmen. Smartphonehersteller werben mit KI, wenn sie Fotos der Anwender automatisch in Alben sortieren. Autohersteller werben mit KI, wenn ihr Navigationssystem den nächsten Stau umfährt. Und Start-ups werben mit KI, um Investoren anzulocken.
Da verliert man als Anwender leicht den Überblick und echauffiert sich mit Witzen, wenn eine KI mal wieder ihr Werbeversprechen nicht einlösen kann und dümmste Fehler begeht. Dabei ist die Differenz zwischen Erwartungshaltung und Realität bereits im unscharfen Begriff „Intelligenz“ angelegt. Er suggeriert, dass eine Maschine schlauer sein könnte als ein Mensch. Das trifft aber nur auf ganz spezielle Anwendungsfälle zu und hängt sehr stark davon ab, mit welchen Daten eine KI trainiert wurde und welche Algorithmen überhaupt dahinterstecken.
Im Artikel auf Seite 20 nennen wir zahlreiche Beispiele, in denen KI die Produktivität erhöht, etwa beim Erkennen falsch eingebauter Autoteile oder Aussortieren von giftigen Getreidekörnern. Dieses Steigerungspotenzial ist der Grund, warum viele Unternehmen enorme Ressourcen in die Entwicklung von KI-Systemen stecken und sich einen Vorteil im internationalen Wettbewerb erhoffen. Dabei möchten sie ungern durch Gesetze gegängelt werden.
Einzelne KI-Erfolge lassen sich aber nicht verallgemeinern. Wenn Sie einen Nagel in die Wand schlagen wollen, greifen Sie zu einem Hammer. Der taugt aber wenig, um den Nagel wieder herauszuziehen. Das geht besser mit einer Zange. Und genauso muss man auch bei KI- beziehungsweise Machine-Learning-Systemen differenzieren: Mal lässt sich ein Problem am besten mit einem Deep-Learning-Ansatz lösen, mal eignet sich ein klassisches statistisches Verfahren, mal ist jede Form von KI überfordert. Kluge Entwickler betreiben KI nicht um jeden Preis, sondern mit Augenmaß.
Mehr Durchblick
Gesellschaft oder Betroffene können allerdings kaum durchblicken, wie genau ein als KI bezeichnetes System Daten klassifiziert, weil sich der Begriff „Künstliche Intelligenz“ mittlerweile als Sammelbegriff für nahezu alle Methoden des maschinellen Lernens etabliert hat: von klassischen statistischen Methoden wie Entscheidungsbäumen bis hin zu künstlichen neuronalen Netzen beziehungsweise tiefen Faltungsnetzen (Deep Convolutional Neural Network, Deep CNN). Letztere haben Bild- und Spracherkennung erst möglich gemacht, weil sie sich komplexe Charakteristika recht eigenständig aus Trainingsdaten erschließen.
Die EU fasst den Begriff in ihrem Entwurf zum „Artificial Intelligence Act“, der die Technik regulieren soll, übrigens besonders weit: Der AI Act versteht unter KI prinzipiell alle Techniken des maschinellen Lernens, statistische Verfahren sowie logik- und wissensgestützte Konzepte. Damit stiftet er ähnlich viel Verwirrung wie Unternehmen, die zu Werbezwecken jede denkbare Art von Software als KI titulieren.
Präziser ist es deshalb, von klassischem Maschinenlernen oder künstlichen neuronalen Netzen zu sprechen: Sie alle gehen auf statistische Verfahren zurück, deren Grundprinzipien der Artikel ab Seite 24 erklärt. Ohne mathematische Formeln zu bemühen, führt er verständlich vor Augen, wie begrenzt die bisherigen KI-Ansätze doch sind und wie sich ihre Trainingskonzepte vom Lernprozess eines Menschen unterscheiden.
Transparenz vs. Effizienz
Das macht KI für Unternehmen nicht weniger wertvoll, dekonstruiert aber ihre scheinbare Überlegenheit. Dies wird umso wichtiger, je mehr risikoreiche Aufgaben Wirtschaft und Staat künftig an KI-Systeme delegieren wollen, bei denen Fehler fatale Folgen haben können. Dazu braucht es einen nüchternen Blick auf die Technik und den Willen, die Prozesse vom Training bis hin zum Ergebnis nachvollziehbar zu gestalten. Sonst zahlen Menschen unangemessen hohe Versicherungsprämien oder werden bei Bewerbungen willkürlich aussortiert.
Die Betroffenen müssen stets nachvollziehen können, warum eine Entscheidung über sie gefällt wurde. Das soll künftig laut dem geplanten AI Act der EU europaweit gelten. Je nach Risikostufe dürfen in bestimmten Arbeitsbereichen nur relativ einfache Algorithmen zum Einsatz kommen oder Entscheidungen müssen von Menschen getroffen werden. Das ist eventuell weniger effizient als eine Automation durch tiefe neuronale Netzwerke, dafür behält der Mensch die Kontrolle.
Welche systematischen Fehler einer KI unterlaufen können, wenn man sie mit schlecht kuratierten Daten trainiert, zeigt der Artikel auf Seite 28. Es genügen bereits kleine Bildstörungen oder Wasserzeichen in großen Trainingsdatenbanken, um eine KI auf den Holzweg zu schicken. So entstehen Fehler, die etwa bei der Beurteilung von Melanomen oder der Zielauswahl von Luftabwehrsystemen tödliche Auswirkungen haben können.
Wichtig ist, dass diese Probleme und die Lösungsansätze nicht nur von ein paar Wissenschaftlern und Informatikern verstanden werden, sondern eine breite gesellschaftliche Diskussion einsetzt. Insbesondere müssen Entscheider in den Vorständen und in der Politik die KI-Systeme einer kritischen Bewertung unterziehen sowie Vor- und Nachteile gut abwägen. Nur dann kann die Gesellschaft von den Stärken der Technik profitieren, ohne wegen ihrer Intransparenz die Kontrolle zu verlieren. (hag@ct.de)