zurück zum Artikel

Nach dem "KI-Winter", in dem KI-Forschung ein Schattendasein führte, wird der "KI-Sommer" vom Bewusstsein einer Künstlichen Intelligenz getrübt.

Es ist Sommer und er währt jetzt schon über zehn Jahre. Das ist natürlich nicht im meteorologischen oder kalendarischen Sinn zu verstehen, sondern bezieht sich auf den anhaltenden Boom der Künstlichen Intelligenz (KI). Nach mehreren "KI-Wintern", in denen die finanzielle Förderung der Technologie nach enttäuschten Erwartungen drastisch reduziert worden war, erlebt sie derzeit einen beispiellosen Karriereschub.

"Missing Link"

Was fehlt: In der rapiden Technikwelt häufig die Zeit, die vielen News und Hintergründe neu zu sortieren. Am Wochenende wollen wir sie uns nehmen, die Seitenwege abseits des Aktuellen verfolgen, andere Blickwinkel probieren und Zwischentöne hörbar machen.

• Mehr zum Feuilleton "Missing Link" [1]

Lange Zeit verlacht, insbesondere von Seiten der Geisteswissenschaften und des Feuilletons, wird das Potenzial der KI nun auch außerhalb von Fachkreisen wahr- und ernst genommen. Forschungsgelder fließen in mächtigeren Strömen als je zuvor. Und ausgerechnet in diesem sonnigen Moment trübt der Google-Mitarbeiter Blake Lemoine den blauen KI-Himmel mit dunklen Wolken, als er verkündet, dass ein von ihm betreuter Chatbot offenbar Bewusstsein und Gefühle herausgebildet hat [2] und als schutzbedürftig angesehen werden muss.

Bedauernswerter Fantast oder Störenfried?

Ist Lemoine ein bedauernswerter Fantast, der von seiner eigenen Schöpfung in die Irre geführt wurde, oder sollten wir ihn als Whistleblower ehren und schützen, der uns frühzeitig vor einer problematischen Entwicklung gewarnt hat? Die Meinungen gehen naturgemäß auseinander.

Unstrittig hingegen ist, dass Lemoines Äußerungen sich für ihn als "Career Limiting Move" (CLM) entpuppt haben, also als ein Schritt, der seine Karriere begrenzt: Er wurde von Google beurlaubt. Seine Vorgesetzten sehen in ihm offenbar in erster Linie einen Störenfried, der die gerade so grandios verlaufende Karriere der KI behindert.

Starke KI – schwache KI

Dabei ist Lemoine wahrscheinlich kein Einzelfall, sondern lediglich das spektakulärste und prominenteste Opfer eines Prozesses, der sich ansonsten nur schwer fassen lässt. Denn es scheint, als wäre die Beschäftigung mit "starker KI" generell in den letzten Jahren mehr und mehr zu einem CLM geworden. Starke KI bezeichnet eine allgemeine, umfassende Intelligenz, wie sie Menschen und andere biologische Lebewesen herausbilden. "Schwache KI" dagegen steht für Anwendungen der Technologie auf eng begrenzte Aufgabenstellungen wie etwa Textanalysen, Bildauswertungen oder Sprachverarbeitung.

Während die Anfänge des Forschungsgebietes, das sich Mitte des vergangenen Jahrhunderts herausbildete und mit der Dartmouth Conference von 1956 [3] seine Geburtsstunde erlebte, klar im Zeichen der starken KI standen, wird der derzeitige KI-Sommer vorrangig – wenn nicht ausschließlich – von der schwachen, aber kommerziell attraktiven KI getragen.

Verzicht auf Begrifflichkeiten gefordert

Zwar wird vermutlich kaum jemand offen sagen, dass starke KI ein unseriöses Forschungsthema sei, gleichwohl lässt sich generell eine wachsende Scheu beobachten, sich überhaupt damit zu beschäftigen. Die Bundesregierung hat sie in ihrer KI-Strategie komplett ausgeblendet. Forscher und Forscherinnen reagieren empfindlich, wenn ihre Arbeit in die Nähe von starker KI gerückt wird. Medien und insbesondere der Filmindustrie wird auf Konferenzen und in Fachpublikationen regelmäßig vorgeworfen, diesen Aspekt zu hoch zu bewerten und dadurch falsche Erwartungen und Ängste zu schüren, die der wirklichen Forschung nicht gerecht würden.

Mittlerweile wird auch immer wieder gefordert, auf Begriffe wie "Intelligenz" oder "Autonomie" ganz zu verzichten und durch technischer klingende Ausdrücke zu ersetzen, um die Diskussion zu "versachlichen". Ausgehend von den Debatten um Waffensysteme und andere militärische KI-Anwendungen hat dieses begriffliche Ausweichmanöver inzwischen auch den zivilen Sektor erreicht [4].

Der falsche Zeitpunkt für Verruf

Die Vision, durch die das Forschungsgebiet ursprünglich ins Leben gerufen wurde, gerät ausgerechnet in dem Moment in Verruf, als sich die daraus erwachsenen Technologien der Anwendungsreife nähern. Interessant an diesem Prozess ist, dass er sich offenbar nicht nur auf die KI-Forschung beschränkt, sondern auch anderswo beobachten lässt.

So ist etwa die Raketentechnik aus dem Wunsch hervorgegangen, Reisen in den Weltraum zu ermöglichen. Inspiriert von den Erzählungen Jules Vernes entwickelten Forscher wie Konstantin Ziolkowski und Hermann Oberth zunächst den theoretischen Rahmen, der wiederum Ingenieure wie Wernher von Braun und Sergej Koroljow inspirierte, die technische Realisierung der Vision in Angriff zu nehmen – die sich bald darauf als CLM entpuppen sollte.

"Auf zum Mars!"

"Auf zum Mars!" – mit diesen Worten begrüßten sich einst die Mitglieder der1931 gegründeten Moskauer Gruppe zur Erforschung von Rückstoßantrieben (GIRD), zu denen auch Koroljow zählte. Auch von Braun baute seine ersten Raketen im Rahmen des 1927 gegründeten "Verein für Raumschiffahrt".

Nur wenige Jahre später galt die Rede von Raumfahrt jedoch bereits als Landesverrat, in der Sowjetunion ebenso wie in Deutschland. Wernher von Braun kam wegen solcher Äußerungen sogar vorübergehend in Haft. Von seiner ursprünglichen Motivation kündete schließlich nur noch ein kleines Gedicht in der A4-Fibel [6], dem Handbuch für die Soldaten, die den Abschuss der V2-Raketen vorbereiten sollten:

Das Himmelsschiff im Weltenraum --
Ein Friedenswerk und Menschheitstraum --
mag das Jahrhundert einst begeistern!
Heut‘ heißt es eine Waffe meistern

Visionen und Motivation

In Kriegszeiten haben es kühne Visionen natürlich generell schwer. Das Prinzip scheint aber den Zweiten Weltkrieg überdauert zu haben: Zwar gilt die Raumfahrt mittlerweile als etablierte und akzeptierte Technologie, doch bei der Beantragung von Forschungsgeldern ist weiterhin Erdverbundenheit angesagt.

So erklärte mir ein Raumfahrtingenieur vor einigen Jahren, wie sich mit nuklearen Antrieben die Flugzeit zum Mars deutlich verkürzen und die Mission dadurch für Astronauten sicherer gestalten ließe. Auf meinen irritierten Einwurf, dass bemannte Missionen zum Mars derzeit von der Politik doch kategorisch ausgeschlossen würden, antwortete er: "Das schreiben wir natürlich so nicht in die Projektanträge. Aber letztlich ist das unsere Motivation."

Brennstoff

Manch Leser oder Leserin mag jetzt bei der Erwähnung "nuklearer Antriebe" zusammengezuckt sein. Kernenergie – das geht ja gar nicht! Vielmehr sollten wir verstärkt auf solare Energie setzen. Dabei war es genau die Sonne und die Frage, woher sie ihre Energie bezieht, die zur Entdeckung der Kernenergie geführt hat.

Frühere Vorstellungen, es könne sich um eine riesige, glühende Eisenkugel handeln, wurden im Lauf des 19. Jahrhunderts unhaltbar, als geologische Forschungen und Charles Darwins Erkenntnisse zur Evolution des Lebens die Schätzungen zum Alter der Erde immer höher schraubten. Kein bekannter Brennstoff hätte das Feuer der Sonne über mehrere hundert Millionen Jahre in Gang halten können.

Passiv oder aktiv zündeln?

Der Geologe Thomas Chamberlin schließlich lenkte 1899 in der Zeitschrift "Science" den Blick ins Innere der Materie: "Reicht unser heutiges Wissen in Bezug auf das Verhalten der Materie unter solch außerordentlichen Bedingungen, wie sie im Sonneninnern herrschen, aus, um die Annahme zu gewährleisten, dass ihr Inneres keine unerkannten Wärmequellen beherbergt? Die innere Zusammensetzung der Atome ist bis jetzt fraglich. Möglicherweise sind sie komplexe Gebilde und Sitz gewaltiger Energien. Sicherlich würde kein sorgfältiger Chemiker behaupten, die Atome seien wirklich elementar oder in ihnen seien nicht gewaltige Energien eingeschlossen. Kein vorsichtiger Chemiker würde bestätigen oder leugnen, dass die außerordentlichen Bedingungen, die im Mittelpunkt der Sonne herrschen, nicht einen Teil dieser Energie freisetzen könnten."

Die folgenden Jahre bestätigten seine vorsichtig formulierte Vermutung – und demonstrierten auch bei dieser Technologie, wie sie sich mit zunehmender Reifung von ihrer ursprünglichen Vision löste. Heute erscheinen nukleare und solare Energie geradezu als Gegensätze. Dabei sind sie identisch. Der Unterschied liegt lediglich in der Art der Nutzung: passiv oder aktiv – genügt uns das nukleare Feuer der Sonne, oder wollen wir auch selber zündeln?

Technologie und die Entfremdung von ihren Ursprüngen

Wie kommt es dazu, dass Technologien sich immer wieder so von ihren Ursprüngen entfremden? Was für ein gesellschaftlicher Mechanismus ist hier am Werk? Bei Raketentechnik und Kernenergie haben offensichtlich militärische Interessen eine entscheidende Rolle gespielt. Im Krieg entscheiden vor allem Feuerkraft und Schnelligkeit. Da ist keine Zeit, sich mit fernen Idealen zu beschäftigen.

Aber das ist im Frieden offenbar nicht wesentlich anders: Auch im wirtschaftlichen Wettbewerb – der häufig wie die Fortsetzung des Krieges mit anderen Mitteln erscheint – gilt es, schneller zu sein als der Gegner, der jetzt Konkurrent oder Mitbewerber heißt. Da ist keine Zeit, sich mit abenteuerlichen Visionen zu beschäftigen.

Der Bereich des Heiligen und die Erschaffung von Leben

Im Fall der KI kommt hinzu, dass die Forschungen zur starken KI nicht nur wenig Gewinn versprechen, sondern auch die profitableren Entwicklungen zur schwachen KI beeinträchtigen können. Die Aussagen von Blake Lemoine legen ja nahe, dass auch aus diesen, am kurzfristigen Gewinn orientierten Entwicklungen unbeabsichtigt empfindsame, leidensfähige technische Lebensformen hervorgehen könnten – und zwar nicht erst in ferner Zukunft, sondern jetzt.

Damit aber berührt die Forschung einen Bereich, den sie – zumindest in westlichen Industriegesellschaften – geglaubt hatte, hinter sich gelassen zu haben: den Bereich des Heiligen. Die Erschaffung von Leben ist den Göttern – oder dem einen Gott – vorbehalten. Und es scheint ein selbst unter Atheisten weitverbreiteter Wunsch zu sein, dass das auch so bleiben möge. Das lässt zumindest die Vehemenz vermuten, mit der sogar manche KI-Forscher darauf beharren, dass KI niemals so etwas wie menschliche Gefühle würde entwickeln können. Offenbar gibt es eine Sehnsucht danach, dass der menschliche Geist ein rätselhaftes und einzigartiges Mysterium bleibt.

"Nur gucken, nicht anfassen!"

Ähnliches mag auch für Raumfahrt und Kernenergie gelten. Immerhin wurde und wird der Himmel oft als Sitz der Götter angesehen und die Sonne selbst als Gottheit verehrt. Vielleicht haben wir die Entzauberung dieser mythischen Orte und Wesen schlechter verkraftet, als bisher angenommen, und müssen uns deshalb, kaum dass wir sie zart berührt haben, gleich wieder von ihnen zurückziehen.

Im Rausch der Befreiung, den die Loslösung der Wissenschaft von kirchlichen Dogmen zunächst ausgelöst hat, konnte das lange Zeit unbemerkt bleiben. Doch mittlerweile scheint das Taumeln in der spirituellen Schwerelosigkeit zunehmend Übelkeit hervorzurufen.

Auf dem Weg in eine Zukunft...

Tatsächlich hat Blake Lemoin seine Aktion auch mit seinen religiösen Überzeugungen gerechtfertigt. Der Philosoph Thomas Metzinger – dem ich übrigens die Kenntnis des Kürzels CLM verdanke – hat im Interview mit Max Knieriemen [8] davor gewarnt, die Diskussion auf eine solche weltanschauliche Ebene zu ziehen. Dem sei an dieser Stelle entschieden widersprochen. Denn im Kern geht es um weltanschauliche Fragen: Ist die Welt um uns herum etwas, das wir uns untertan machen dürfen (oder sogar müssen)? Oder sollten wir sie (wie auch die von uns geschaffenen Artefakte) grundsätzlich als beseelt betrachten und danach streben, mit ihr im harmonischen Austausch zu leben?

Letzteres entspricht der Weltsicht vieler Völker, die von europäischen Eroberern unterdrückt und teilweise vernichtet wurden. Ihr wieder mehr Geltung zu verschaffen, ist nicht nur eine notwendige Konsequenz aus der Aufarbeitung der Kolonialgeschichte. Sie lässt sich auch gut mit wissenschaftlichen Erkenntnissen vereinbaren, wie etwa Robin Wall Kimmerer in ihrem bemerkenswerten Buch Geflochtenes Süßgras [9] zeigt. Auf dem Weg in eine Zukunft, die mehr und mehr auch von künstlichen Agenten bevölkert sein wird, bietet sie damit wahrscheinlich eine bessere spirituelle Orientierung als etwa das Christentum.

(bme [10])

URL dieses Artikels:
https://www.heise.de/-7156844

Links in diesem Artikel:
[1] https://www.heise.de/thema/Missing-Link
[2] https://www.heise.de/news/Hat-Chatbot-LaMDA-ein-Bewusstein-entwickelt-Google-beurlaubt-Angestellten-7138314.html
[3] https://www.heise.de/news/50-Jahre-Kuenstliche-Intelligenz-141200.html
[4] https://www.heise.de/news/Keine-Kuenstliche-Intelligenz-Think-Tank-gegen-Begriffe-wie-Maschinenlernen-7098682.html
[5] https://www.heise.de/Datenschutzerklaerung-der-Heise-Medien-GmbH-Co-KG-4860.html
[6] http://www.aggregat4.de/A4_Fibel.html
[7] https://www.heise.de/Datenschutzerklaerung-der-Heise-Medien-GmbH-Co-KG-4860.html
[8] https://www.swr.de/swr2/programm/debatte-um-lamda-haben-algorithmen-gefuehle-100.html
[9] https://www.aufbau-verlage.de/aufbau/geflochtenes-sussgras/978-3-351-03873-1
[10] mailto:bme@heise.de

Copyright © 2022 Heise Medien