Missing Link: Werden KI-Systeme wie GPT "stochastische Papageien" bleiben?
Seite 2: Schwache KI, starke KI
From: Hans-Arthur Marsiske
To: Johanna Seibt
Was mich beunruhigt, ist die Beobachtung, dass solche grundlegenden Fragen in der öffentlichen Debatte und in politischen Entscheidungsprozessen zumeist ausgeblendet und häufig sogar als spekulativ und irrelevant denunziert werden, zugunsten kurzfristiger wirtschaftlicher Interessen. So hat etwa die deutsche Bundesregierung in ihrer ersten KI-Strategie die sogenannte "starke KI" – also eine allgemeine, dem menschlichen Denkvermögen ähnliche KI – nicht einmal erwähnt, sondern sich ausschließlich mit anwendungsbezogener "schwacher KI" beschäftigt. Schwache KI verspricht kurzfristig Profite, starke KI könnte aber langfristig weitaus gravierendere Konsequenzen haben.
Wie Sie richtig feststellen, drängt sie uns zu fragen, wer wir sind und wer wir sein wollen. Solchen Fragen wird aber häufig ausgewichen, indem einfach die Begriffe geändert werden: Dann soll nicht mehr von "Intelligenz" die Rede sein, sondern etwa von "algorithmengesteuerten Systemen" oder "datengestützter Kriegführung". Damit wird jedoch die Illusion genährt, es handele sich um rein technische Fragen, während die historischen Dimensionen des Umbruchs, in dem wir uns befinden, völlig aus dem Blick geraten.
Das gilt auch für das eingangs genannte Beispiel des Fußball-Schiedsrichters: Wir sprechen von "Video Assistant Referee" und übersehen dadurch, dass wir die Kontrolle über das Spiel nach und nach an KI abgeben. Wobei dieser Prozess interessanterweise von der Sensorik ausgegangen ist: Es waren zunächst die Zeitlupenwiederholungen aus verschiedenen Perspektiven, die den Fernsehzuschauern eine bessere Position zur Beurteilung kritischer Situationen einräumten als den Schiedsrichtern auf dem Feld.
Dabei ist es jedoch nicht geblieben. Mittlerweile werden die Positionen von Spielern und Ball automatisch aufgezeichnet und können in Sekundenschnelle zu dreidimensionalen Modellen aufbereitet werden, um zentimetergenau die Einhaltung der Abseitsregel zu überprüfen. Das muss man noch nicht als KI bezeichnen, aber es steckt in diesem System eindeutig mehr Intelligenz als in einer reinen Zeitlupenwiederholung. Das logische Ende dieser Entwicklung wäre ein komplett von KI kontrolliertes Fußballspiel. Mir scheint es keinesfalls zu früh, darüber nachzudenken, ob wir das wollen oder nicht. Denn je später wir uns dagegen wenden, desto schwieriger dürfte es werden.
From: Johanna Seibt
To: Hans-Arthur Marsiske
Sie haben ganz Recht – es fehlt uns ein öffentlicher Diskurs darüber, welche Formen der KI wir eigentlich wollen können. Aber das liegt daran, dass wir noch nicht wissen, womit wir es zu tun haben: werden KI-Systeme wie GPT immer "stochastische Papageien" (Emily Bender) bleiben oder steuern wir auf "allgemeine", der menschlichen vergleichbare, Intelligenz zu, gibt es Anzeichen von Begriffsbildung?
Diese Frage müsste man ohne Wirtschaftsinteressen untersuchen, aber wir sind in einer eigenartigen Diskurs-Situation, wo sich Macht und Mythos politisch paaren: Die Macht der sich gegenseitig antreibenden Tech-Giganten beschleunigt die Produktion einer Technologie, deren genaue Funktionsweise keiner der Hersteller beschreiben kann – die unfassbare Komplexität von KI-Systemen verschiebt plötzlich den Diskurs vom rational teilbaren Argument zur subjektiven Deutung.
Dies zeigt sich am besten in der heftigen KI-Debatte in den USA: hier hat sich ein Personenkult der "Tech-Gurus" gebildet, die orakelhaft reißerische Prognosen abgeben ("KI wird alle Probleme der Menschheit lösen"), aber ohne für die Öffentlichkeit nachvollziehbare Erklärungen anzubieten. Die Risikoabwägungen die Tech-Konzerne bleiben völlig unklar (OpenAI gibt an, man habe bei der Entwicklung von GPT-4 Psychologen und Ethiker "miteinbezogen," aber wie, bleibt offen).
Leider hat sich auch das UN-Forum "AI for Good", das Webinars und Konferenzen organisiert, dieser Interaktionsform der selbst-zelebrierten Techno-Mythologie angeschlossen, die nicht am ernsthaften interdisziplinären Wissensaustausch mit den nicht-technischen Disziplinen interessiert ist.
Die Robophilosophy Konferenzen waren dazu gedacht, hier einen Gegenimpuls zu setzen und die "Humanities" (Geistes-, Kultur- und Sozialwissenschaften) an ihren Auftrag für die öffentliche Meinungsbildung zu erinnern, und interdisziplinäre, technisch informierte, rationale Diskussionen der kulturellen und existentiellen Fragen zu ermöglichen. Ob und wie sich die diskursiven Grundlagen der Demokratie retten lassen, ist die zentrale Frage.
From: Hans-Arthur Marsiske
To: Johanna Seibt
Der Ausdruck "stochastische Papageien" gefällt mir. Er erfasst sehr prägnant die Funktionsweise der Großen Sprachmodelle, die mithilfe statistischer Methoden abschätzen, wie die jeweils nächsten Worte eines Textes lauten müssten, und wertet sie zugleich ab, indem er unterstellt, dass sie einfach nur vor sich hin plappern, ohne ein Wissen von der Welt zu haben, um die es in den Texten geht.
Das scheint mir eine gängige Strategie zu sein, um der Verunsicherung durch KI zu begegnen: Wann immer sie den Menschen bei einer Aufgabe übertrifft, sei es beim Schach, beim Go oder beim Erkennen von Verkehrszeichen, heißt es oft, das sei ja "nur Mathematik", keine wirkliche Intelligenz. Ich spüre dahinter den dringenden Wunsch, dass das menschliche Denken ein einzigartiges Mysterium bleiben möge.
Vielleicht ist das so etwas wie die Kehrseite der von Ihnen zitierten "Techno-Mythologie", eine Art "Mythos des Menschlichen"? Fällt der öffentliche Diskurs möglicherweise auch deswegen so schwer, weil wir gerade eine erneute tiefe Kränkung erleben, nachdem Nikolaus Kopernikus den Menschen aus dem Zentrum des Universums gestoßen, Charles Darwin ihn den Tieren gleichgestellt und Sigmund Freud die Macht seines Ichs in Zweifel gezogen hat?
From: Johanna Seibt
To: Hans-Arthur Marsiske
Ja, die lange Geschichte von Produktion und Rezeption von "Automata", sich-selbst-bewegender Maschinen, die ja bis in die Antike zurückreicht und sich in der modernen Robotik und künstlichen Intelligenzforschung fortsetzt, war bisher vom lustvollen Staunen über die menschliche Ingenieurkunst geprägt: Was der Mensch nicht alles machen kann!
Heute, da unsere Leistungen von blinden Algorithmen überholt werden, ist bei uns, den Bürgern und Technologie-Rezipienten, das Staunen mit einem Gefühl der Kränkung, eines Angriffs auf die eigene Würde, gepaart. (Diese Ambivalenz zwischen Verführung und Verzweiflung in der Begegnung mit dem robotischen Doppelgänger wird im Theaterstück "Replik.A", das im Rahmen der Konferenz aufgeführt wird, künstlerisch und technisch raffiniert ausgespielt.)
Ich glaube nicht, dass sich der Wertverlust der menschlichen Arbeit aufhalten lässt – etwa, in Analogie zu "handgemacht", mit einem Wertesiegel "durch menschliche Intelligenz erzeugt". Aber leider regiert bei den internationalen Technologieproduzenten vornehmlich noch immer die ungebrochene Begeisterung an der eigenen Schöpferkraft – die Parabel des Zauberlehrlings wird mit dem Verweis auf den globalen wirtschaftlichen Wettbewerb oder mit offenem "Transhumanismus" beiseite gesetzt.
(vbr)
