Künstliche Intelligenz ist unser Untergang
KI spielt eine viel größere Rolle im Alltag, als die meisten Menschen annehmen. Doch sind wir als Gesellschaft wirklich bereit dafür?
(Bild: Bild erstellt mit KI in Bing Designer durch heise online / dmk)
- Golo Roden
Im Allgemeinen bin ich ein sehr optimistischer Mensch, aber es gibt Entwicklungen in der Gesellschaft, die mir ernsthafte Sorgen bereiten. Dabei meine ich nicht speziell die aktuellen politischen Entwicklungen in Deutschland oder das allgemeine Weltgeschehen an sich, obwohl es in beiden Fällen sicherlich einiges gäbe, worüber man sich sorgen könnte. Stattdessen geht es mir heute um ein Thema, das einerseits zwar sehr konkret ist und annähernd alle Menschen betrifft, das andererseits aber vielen nicht greifbar erscheint, da es sehr abstrakt und weit weg von dem Alltag der meisten Menschen ist – oder zumindest glauben die meisten Menschen, dass dem so sei.
Worum es mir heute geht, ist der Einfluss von Künstlicher Intelligenz auf unsere Gesellschaft. Dazu habe ich drei Thesen, die ich gerne teilen und sachlich in den Kommentaren diskutieren möchte. Warum gerade jetzt? Weil OpenAI, das Unternehmen hinter ChatGPT, am vergangenen Donnerstag ein neues Angebot veröffentlicht hat, nämlich ChatGPT EDU (also ChatGPT for Education). Das bedeutet im Wesentlichen, dass OpenAI nun aktiv versucht, ChatGPT im Bildungsbereich zu etablieren. Dazu wurden spezielle Angebote für Universitäten, Hochschulen und, was besonders wichtig ist, auch für normale Schulen ins Leben gerufen.
Künstliche Intelligenz in der Bildung
Das ist zugegebenermaßen ein Schritt, der in gewissem Sinne längst überfällig ist. Denn wenn man sich mit Schülerinnen und Schülern oder auch mit Studentinnen und Studenten unterhält, dann gehört der Einsatz von KI für diese längst zum Alltag. Das sehen vielleicht die Eltern und die Lehrkräfte nicht so gerne und es wird häufig mit Verboten gedroht, aber seien wir mal ehrlich: Das ändert die Realität nicht. Man kann sich dann zwar einreden, man hätte etwas gegen den vermeintlichen drohenden Bildungsverfall getan, aber man vergisst oder ignoriert dabei ganz bewusst, dass Verbote den technischen Fortschritt noch nie nennenswert aufgehalten haben.
Empfohlener redaktioneller Inhalt
Mit Ihrer Zustimmmung wird hier ein externes YouTube-Video (Google Ireland Limited) geladen.
Ich bin damit einverstanden, dass mir externe Inhalte angezeigt werden. Damit können personenbezogene Daten an Drittplattformen (Google Ireland Limited) übermittelt werden. Mehr dazu in unserer Datenschutzerklärung.
Und damit komme ich auf meinen Ausgangspunkt für den heutigen Blogpost: Natürlich können wir den Einsatz von Künstlicher Intelligenz verbieten, wir können ihn reglementieren und begrenzen und wir können natürlich vor allem auch hoffen, dass das irgendetwas nützen wird. Aber zum einen ist das unrealistisch, zum anderen wird irgendjemand auf dieser Welt einen Weg finden, Künstliche Intelligenz konstruktiv in der Bildung einzusetzen. Ich möchte jetzt nicht in das übliche Gejammer über Deutschland oder Europa als Standort einstimmen, aber ich denke, es ist nicht verkehrt zu sagen, dass Europa und insbesondere Deutschland bislang keine allzu gute Figur machen, was den Umgang mit der digitalen Welt im Unterricht und in der Lehre angeht.
Tatsächlich war das in den vergangenen Jahrzehnten schon ein Problem, aber das wird jetzt mit der immer höheren Entwicklungsgeschwindigkeit ein immer schwerwiegenderes Problem werden. Wenn wir den Anschluss an die Welt nicht verpassen wollen, haben wir einen ganz dringenden Nach- und Aufholbedarf.
Der Ausgangspunkt
Nun ist nicht per se alles schlecht, was aus Europa kommt oder was Europa macht. Meiner persönlichen Meinung nach haben wir auch durchaus eine große Stärke, beispielsweise im Vergleich zu den USA: Wir springen nicht wahllos auf jede neue Technologie auf, sondern tendieren dazu, erst einmal abzuwarten, zu beobachten, über die Konsequenzen bestimmter Dinge nachzudenken, uns Gedanken zu machen und dann einen wohlüberlegten Pfad einzuschlagen. Das ist etwas, das mir Hoffnung gibt. Aber wir dürfen uns nicht zu lange Zeit lassen mit diesem "wohlüberlegten Pfad", denn die Zeit spielt gegen uns.
Bis hierhin also zusammengefasst: Wir müssen uns Gedanken über den richtigen Einsatz von Künstlicher Intelligenz machen, insbesondere in der Bildung, aber auch im gesamtgesellschaftlichen Kontext. Wenn wir nur das Schlechte sehen, laufen wir Gefahr, den Anschluss zu verpassen. Man darf aber auch nicht nur die Chancen sehen, denn dann verrennt man sich und vergisst, über einige Dinge nachzudenken, über die man vielleicht besser nachgedacht hätte und die man später eventuell bereuen wird.
These #1: Künstliche Intelligenz schadet der Bildung, ist zugleich aber unerlässlich für die Bildung
Vor diesem Hintergrund möchte ich heute gerne drei Thesen aufstellen. Erstens: "Künstliche Intelligenz schadet der Bildung, ist zugleich aber unerlässlich für die Bildung". Was meine ich damit? KI schadet der Bildung, weil sie dazu verführt und verleitet, nicht mehr selbst zu denken. Anders als bei einem Taschenrechner, bei dem ich grundsätzlich noch wissen muss, wie ich eine gestellte Aufgabe vom Lösungsweg her bearbeite, kann ich einer KI einfach sagen: "Das hier ist die Aufgabenstellung, löse das für mich!" – und die KI wird das machen. Ob sie das nun gut oder schlecht macht, ob das Ergebnis nachher richtig oder falsch ist, das steht dabei auf einem anderen Blatt. Fakt ist aber auf jeden Fall: Die Antwort, die ich von der KI erhalte, wird so oder so sehr eloquent und überzeugend formuliert sein.
Und einerseits ist das ein enormer Produktivitäts- und Effizienz-Boost. Ich kann um Welten schneller Texte schreiben, Daten auswerten, Übersetzungen anfertigen, komplexe Zusammenhänge analysieren und vieles mehr. Deshalb ist KI unerlässlich für die Bildung. Denn Bildung bedeutet stets auch Forschung, und KI ist ein unglaublich mächtiges Instrument, um Forschung zu beschleunigen und Dinge zu ermöglichen, von denen man vorher nicht einmal zu träumen gewagt hätte. Der Punkt ist jedoch, dass die Ergebnisse der KI kritisch hinterfragt werden müssen. Eben weil sie mit derselben Eloquenz eine korrekte und wahre Aussage formulieren kann, wie sie das auch mit dem größten Blödsinn machen kann. Das heißt, einer Künstlichen Intelligenz darf nicht blind vertraut werden, sondern es ist notwendig, die Ergebnisse zu überprüfen und zu validieren.
Eigentlich ist das auch gar nichts Neues. In der Bildung und Forschung sollte generell jegliche Quelle überprüft werden, doch genau dieser Punkt, wie man das macht, kommt in der Lehre viel zu kurz. In der Schule lernt man zwar, Argumentationen zu schreiben und Zeitschriftenartikel zu lesen, aber man lernt nicht, wie man ebensolche Zeitschriftenartikel oder sonstige Quellen auf ihre Vertrauenswürdigkeit oder ihren Wahrheitsgehalt überprüft. Es wird zwar in der Schule gefordert, dass Schülerinnen und Schüler beispielsweise bei Referaten Quellennachweise liefern, aber wie es um die Qualität der Quellen steht, das wird im Unterricht nicht behandelt.
Im jugendlichen Alter kann man langfristig froh sein, wenn man ein Elternhaus hat, das in der Lage ist, eine gewisse Medienkompetenz zu vermitteln. Das ist nämlich einer der Aspekte, an denen das Schulwesen seit Jahren und Jahrzehnten krankt: Und was in der analogen Welt schon nicht gut funktioniert hat, funktioniert nun im Digitalen erst recht nicht.
Das heißt, um Künstliche Intelligenz in der Bildung effektiv und effizient nutzen zu können, brauchen wir ein kritisches Denken und Hinterfragen der KI. Dieses kritische Denken und Hinterfragen muss jedoch außerhalb der KI erlernt werden. Und das muss schleunigst beginnen, denn wenn das nicht passiert, dann wächst eine Generation heran, die zwar nie dagewesene technische Möglichkeiten zur Verfügung hat, diesen aber blind vertraut, dadurch ihre Eigenständigkeit verliert und in eine Abhängigkeit zur KI beziehungsweise zur Technologie im Allgemeinen gerät. Und das wäre nicht gut.
These #2: KI braucht Erfahrung
Die zweite These, auf die mich ein befreundeter Unternehmer gebracht hat, lautet: "KI braucht Erfahrung". Was bedeutet das? Im Prinzip setzt es genau das fort, wo wir gerade aufgehört haben: Um KI nämlich effektiv und effizient nutzen zu können, brauchen wir ein kritisches Denken und Hinterfragen der Ergebnisse, die die Künstliche Intelligenz liefert. Und was braucht es, um das machen zu können? Nun, Menschen sind immer dann gut darin, Dinge zu hinterfragen und skeptisch zu durchleuchten, wenn sie selbst über Wissen und vor allem über Erfahrung in dem jeweiligen Bereich verfügen.
Der Haken ist nun aber: Um Erfahrung zu sammeln, muss man selbst bestimmte Wege beschreiten und scheitern. Denn die Fehler, die man gemacht hat, sind das, woraus man am Ende am meisten lernt. Es heißt ja nicht umsonst: "Aus Fehlern wird man klug."
Der Punkt ist aber, dass dafür viele Wiederholungen des Weges erforderlich sind, und die KI uns jedoch genau diese Wiederholungen abnimmt, indem sie bereits beim ersten Anlauf ein passabel klingendes Ergebnis liefert. Ist das Ergebnis auch faktisch halbwegs korrekt, dann machen wir nach und nach die Erfahrung, dass wir der KI blind vertrauen können. Das funktioniert natürlich nur so lange, bis die KI einmal kein vernünftiges Ergebnis liefert, nur das kann man dann eventuell gar nicht mehr im Vorfeld von einem guten Ergebnis unterscheiden, weil dafür die Erfahrung fehlt. Es handelt sich also um einen Teufelskreis: KI nimmt uns das Üben ab, deshalb sammeln wir keine Erfahrung mehr, aber genau diese Erfahrung bräuchten wir, um die Ergebnisse der KI überprüfen und hinterfragen zu können.
Das heißt, je länger das so läuft, desto schlechter wird die eigene, vom Menschen gelebte Fehlerkultur, und desto schlechter werden die Fähigkeiten, Behauptungen und Konsequenzen überblicken und abschätzen zu können. Das wiederum hat langfristige Auswirkungen auf die Resilienz und führt zur Erosion wichtiger geistiger Fähigkeiten.
These #3: Künstliche Intelligenz führt zu einem dramatischen Vertrauensverlust und letztlich zum Zusammenbruch der Globalisierung
Das wiederum bringt mich zu meiner dritten These, denn das wirft die Frage auf, wem oder was wir dann überhaupt noch vertrauen. Die These lautet: "Künstliche Intelligenz führt zu einem dramatischen Vertrauensverlust und letztlich zum Zusammenbruch der Globalisierung". Denn wenn wir nicht mehr in der Lage sind, die Ergebnisse von Künstlicher Intelligenz zu bewerten, und Künstliche Intelligenz zugleich eine immer größere Rolle in unserem gesellschaftlichen Alltag spielt, führt das über kurz oder lang zu einem Szenario, in dem wir nicht mehr wissen, wem wir überhaupt noch vertrauen können. Je stärker Fake News werden und je besser generative KI wird, desto leichter wird es, der Gesellschaft ein Weltgeschehen vorzuspielen, das in der Realität vielleicht gar nicht passiert.
Und das führt dann zu einem massiven Rückzug ins Lokale. Das, was ich selbst erlebe, das glaube ich. Das, was mir meine Familie berichtet, nehme ich auch mit sehr hoher Wahrscheinlichkeit als wahr an. Bei meinen Nachbarn bin ich schon ein wenig skeptischer, aber ihnen vertraue ich immer noch mehr als der Verkäuferin beim Bäcker oder meinem Friseur. Und denen wiederum vertraue ich eher als irgendjemandem, dem ich auf der Straße begegne. Auch das ist im Grunde nichts anderes als heute, aber: Der allgemeine Vertrauensverlust außerhalb des selbst Erfahrbaren führt dazu, dass wir auch den großen Medien nicht mehr vertrauen (und das sieht man in manchen Teilen der Bevölkerung auch heute schon). Und damit wird auf einmal infrage gestellt, was auf der anderen Seite der Welt passiert: Denn, ob dort wirklich Krieg herrscht, ob wirklich ein Erdbeben stattgefunden hat, ob wirklich dies und jenes passiert ist, lässt sich für mich als Einzelner nicht mehr nachprüfen. Und wem vertraue ich dann noch?
Worauf das Ganze hinausläuft
Ich persönlich glaube an der Stelle, dass wenn man diese drei Thesen zusammennimmt (also erstens: "KI schadet der Bildung, ist aber zugleich unerlässlich für die Bildung", zweitens: "KI braucht Erfahrung" und drittens: "KI führt zu einem dramatischen Vertrauensverlust und letztlich zum Zusammenbruch der Globalisierung"), dann sind das nicht sonderlich rosige Aussichten, die wir vor uns haben. Ich habe zu Beginn dieses Blogposts geschrieben, man dürfe nicht alles nur pessimistisch sehen und nicht alles von vornherein ablehnen, aber eines dürfte vor diesem Hintergrund wohl überhaupt keine Frage mehr sein: Nämlich, dass wir äußerst dringend einen grundlegend anderen Umgang mit KI benötigen, eine gesellschaftliche Awareness für diese Themen, und nachhaltige Ansätze für die Bildung der nachkommenden Generationen. Denn damit legen wir den Grundstein für den Fortbestand unserer Gesellschaft und, wenn man so will, sogar der gesamten Menschheit.
Sollten wir das nicht hinbekommen und wenn wir nicht aufpassen, dann steuern wir auf eine Gesellschaft zu, die zwar technologisch hoch entwickelt ist, aber soziologisch und emotional immer mehr verkümmert. Das führt zu einem Paradoxon, das allerdings gar nicht so neu ist: Je höher die Technologie entwickelt ist, desto stärker degeneriert eine Zivilisation. Irgendwann, wenn eine solche Entwicklung erst einmal ins Rollen gekommen ist, entsteht auf diesem Weg eine Gesellschaft, die kraft- und schwunglos geworden ist, obwohl sie (im übertragenen Sinne) die Fähigkeiten hätte, nach den Sternen zu greifen.
Übrigens, auch da bin ich nicht der Erste, der sich solche Gedanken macht: Bereits 1961, in der Science-Fiction-Serie "Perry Rhodan", ist genau dies das Schicksal, das die Arkoniden ereilt hat, die erste außerirdische Zivilisation, mit der die Menschheit in Kontakt tritt. Die wenigen Arkoniden, die es noch gibt, berichten von genau diesem Verfall der Gesellschaft, und zwar aufgrund einer technologisch immer weiter voranschreitenden Entwicklung, die irgendwann dazu geführt hat, dass das Verhältnis von Technologie und dem eigenen Streben nach Mehr ins Wanken geraten und schließlich gekippt ist.
Was wir tun müssen
Zugegebenermaßen ist das keine sonderlich erstrebenswerte Zukunft, die ich da skizziert habe, und wie ich zu Beginn dieses Blogposts geschrieben habe, scheint ein solches Szenario für viele Menschen noch sehr weit entfernt zu sein. Aber: Wenn ich überlege, wie unglaublich viel sich in der verhältnismäßig kurzen Zeit, die ich persönlich auf diesem Planeten miterlebt habe, getan hat, und wenn ich mir überlege, was unsere Kinder und Enkelkinder für eine Welt vorfinden werden, in welche Welt sie ungefragt hineingeboren werden, dann glaube ich, dass wir doch irgendwo in der Verpflichtung stehen, uns über solche Themen Gedanken zu machen. Darin muss meiner Meinung nach deutlich mehr sein als: "Wir statten Schulen jetzt mit iPads aus und tun dann so, als wäre das der Gipfel der Digitalisierung".
Der kritische Umgang mit digitalen Medien ist das A und O, um zukünftig eine stabile Gesellschaft bilden zu können. Und daran scheitern wir aktuell grandios. Wirklich jede und jeder hat heute ein Smartphone, und die IT ist die sich am stärksten verbreitende und im wahrsten Sinne des Wortes die am stärksten durchdringende Technologie des vergangenen Jahrtausends. Aber wir haben heute kaum mehr Menschen, die sich fundiert mit diesen Themen beschäftigen als in den 90er-Jahren, als ich selbst angefangen habe, mich für Programmierung zu interessieren. Wir können keine Gesellschaft auf Technologien aufbauen, die wir zunehmend nicht mehr verstehen. Denn wenn wir das tun, ist das der Anfang vom Ende. Dann haben wir die Hoch-Zeit unserer Gesellschaft hinter uns. Und wenn wir das nicht wollen, dann sollten wir dem, wie gesagt, ganz dringend entgegenwirken – nur ist das keine technologische Herausforderung. Annehmen sollten wir sie trotzdem.
(rme)
