Missing Link: Joe Weizenbaum und die vergifteten Früchte des Wahnsinns
Detlef Borchers
Joseph Weizenbaum – vor 100 Jahren in Berlin geboren
(Bild: Detlef Borchers)
Er gilt als Pionier der kritischen Informatik, die das Denken nicht den Computern überlassen will. Joseph Weizenbaum ist vor 100 Jahren in Berlin geboren.
Heute vor 100 Jahren wurde Joseph Weizenbaum in Berlin geboren. Mit seinen Büchern und Aufsätzen gilt er als Pionier der kritischen Informatik, die das Denken nicht den Computern überlassen will. Mit seinem Programm ELIZA deckte er auf, wie schnell Computer vermenschlicht werden. Als Professor für Computer Science am MIT beschäftigte er sich mit der "Macht der Computer und der Ohnmacht der Vernunft." Unter dem Titel "Computer Power and Human Reason. From Judgement to Calculation" erschien 1976 sein Hauptwerk, in dem er sich kritisch mit der künstlichen Intelligenz, mit Hackern (zwanghaften Programmierern) und der Idee des Menschen als informationsverabeitendes System auseinandersetzte.
"Missing Link"
Was fehlt: In der rapiden Technikwelt häufig die Zeit, die vielen News und Hintergründe neu zu sortieren. Am Wochenende wollen wir sie uns nehmen, die Seitenwege abseits des Aktuellen verfolgen, andere Blickwinkel probieren und Zwischentöne hörbar machen.
Während Weizenbaum an seiner Wirkungsstätte in den USA eher vergessen ist, wird sein Vermächtnis in Deutschland gepflegt. Es gibt den Weizenbaum-Preis des von ihm mit gegründeten "Forum InformatikerInnen für Frieden und gesellschaftliche Verantwortung" (FIfF), der zuletzt an Julian Assange verliehen wurde, es gibt das Weizenbaum-Institut in Berlin, das die Wechselwirkung von Computern und Gesellschaft untersucht.
Joe Weizenbaum
Joe Weizenbaum wurde am 8. Januar 1923 als zweiter Sohn des Kürschnermeisters Jechiel (Harry) Weizenbaum und der Pelzverkäuferin Henriette Weizenbaum [2] in Berlin geboren. Die Familie war wohlhabend. Joseph und sein Bruder Heinrich (Henry Sherwood) wurden durchweg von Kindermädchen erzogen. 1936 musste die Familie emigrieren, weil der Vater eine Affäre mit einem Kindermädchen hatte, was nach den Rassegesetzen verboten war. Die Familie emigrierte in die USA, wo Weizenbaum erst Mathematik studierte und sich frühzeitig an der Wayne University Detroit mit dem Bau von Computern beschäftigte. Sein "Lehrvater" war Harry Douglas Huskey, der den Standards Western Automatic Computer (SWAC) konstruierte, der zeitweilig der schnellste Computer der Welt war.
1950 war Weizenbaum an der Konstruktion eines Computers beteiligt, der für den Test von Raketen-Waffensystemen der U.S. Navy bestimmt war. "Der Computer gehörte der Marine und stand auf einem Vorfeld der Marine. Zweck des Vorhabens war, Raketen abzuschießen und zu testen. Ich machte Berechnungen, die mit der Prüfung dieser Waffen zu tun hatten, und war mir der moralischen Dimension meiner Arbeit nicht bewusst."
ERMA – das erste Computer-Banksystem seiner Zeit
Erst die Bürgerrechtsbewegung, der Vietnamkrieg und die Rolle des MIT in der Waffenentwicklung weckten den Widerspruchsgeist von Weizenbaum. Zunächst arbeitete er jedoch bei der bei Bendix Aviation und General Electric, wo Weizenbaum von 1955 bis 1963 ERMA entwickelte, das erste Computer-Banksystem seiner Zeit. 1963 erhielt er einen Ruf an das Massachusetts Institute of Technology (MIT), wo er als Associate Professor für Applied Science und Political Science anfing.
1970 wurde er zum ordentlichen Professor für Computer Science berufen, als sich die junge Wissenschaft der Computer Science (in Deutschland Informatik) zu etablieren begann. Bis zu seiner Emeritierung im Jahre 1985 beschäftigte sich Weizenbaum mit Programmiertechniken; wissenschaftliche Meriten erwarb er sich mit Studien zu einem Symmetric List Processor (SLIP) oder mit Forschungen zu Referenzzählern (Knotted list structures and garbage collection schemes). Mit dieser Leistung wird Weizenbaum in der "Geschichte der Informatik" von Friedrich L. Bauer erwähnt.
"Eliza – incredibly simple und missverstanden"
Einem breiten Publikum wurde Weizenbaum durch die Programmierung von Eliza [3] bekannt, einem rudimentären Dialogsystem auf Basis des List Processors, das er unter dem Titel "A Computer Program for the Study of Natural Language Communication Between Man and Machine" der Fachwelt vorstellte. Weizenbaum machte eines Tages die Entdeckung, dass selbst seine Sekretärin, die doch sein Programmierprojekt kannte, sich mit dem Computer unterhielt und Weizenbaum bat, das Zimmer zu verlassen, weil sie Intimes mit dem Rechner besprechen wollte.
"Eliza ist als Programm incredibly simple, wirklich, hat aber im Herzen einen Punkt getroffen, das macht es bisschen kompliziert, nicht der einfache Code. Eliza wurde missverstanden, als intelligentes System, das aber ist ein Fehler, der genau in unsere Zeit passt", so Weizenbaum zu seinem 80. Geburtstag. Das Blumenmädchen Eliza Doolittle aus Shaws "Pygmalion" ist die Namensgeberin. Sie wird von einem Linguisten in der Sprache der Oberschicht trainiert und ist dann die Oberschicht.
Ein Computersystem als therapeutisches Werkzeug
Eliza ist ein einfaches Programm, das auf eine kleine Anzahl von Schlüsselwörtern reagiert, die in den meisten Gesprächen vorkommen. So reagiert es auf "my" (im Deutschen auf meine/meines/meiner): Mensch: Ich habe Probleme mit meiner Schwester. Eliza: Erzähle mir mehr von deiner Schwester. Ein weiteres Schlüsselwort ist "Computer". Sobald es auftaucht, fragt Eliza stets, ob Computer den Menschen beunruhigen. Außerdem kennt Eliza eine einfache Art der Verzweigung: Wenn sich der Mensch mit dem Wort "my" auf etwas anderes als ein Familienmitglied bezieht, speichert Eliza die Wortfolge nach "mein" und vertauscht die Personal- und Possessivpronomina der ersten mit denen der zweiten Person.
So kommt ein "Gespräch" zustande, das Fachleute eine "nichtdirektive Gesprächsführung" nennen – der "Psychologe" fragt immer wieder nach. Begeistert schrieb der Psychoanalytiker Kenneth Mark Colby 1966: "Wenn sich die (Eliza-)Methode bewähren sollte, so hätten wir damit ein therapeutisches Werkzeug, das man all den Nervenkliniken und psychiatrischen Zentren an die Hand geben könnte, die über zu wenig Therapeuten verfügen... in einer Stunde können mehrere hundert Patienten von einem Computersystem behandelt werden."
Vom Computerwissenschaftler zum Computerkritiker
In der Folgezeit entwickelte sich Joseph Weizenbaum vom Computerwissenschaftler zum Computerkritiker und folgerichtig zum Kritiker einer Gesellschaft, die Computer produziert und die Berechnungen der Maschinen kritiklos akzeptiert. Der fulminante Einstieg in das Leben eines Computerkritikers lässt sich auf den Januar 1972 datieren, als in der Hamburger Wochenzeitung "Die Zeit" Weizenbaums großer Aufsatz "Albtraum Computer" erschien, eine Abrechnung mit der Computertechnik generell, der KI-Forschung speziell und besonders dem Mythos vom fehlerfreien Programmieren.
Der Artikel war das Kondensat seines Vortrags zur Gründung des Instituts für Informatik an der Universität Hamburg. Weizenbaum erklärte das Problem so: "Der meiste Schaden, den der Computer potenziell zur Folge haben könnte, hängt weniger davon ab, was der Computer tatsächlich kann oder nicht kann, als vielmehr von den Eigenschaften, die das Publikum dem Computer zuschreibt. Der Nichtfachmann hat überhaupt keine andere Wahl, als dem Computer die Eigenschaften zuzuordnen, die durch die von der Presse verstärkte Propaganda der Computergemeinschaft zu ihm dringen. Daher hat der Informatiker die enorme Verantwortung, in seinen Ansprüchen bescheiden zu sein."
"Die Macht der Computer und die Ohnmacht der Vernunft"
Unterschiedliche Cover seines einzigen Buches
Nachdem er für zwei Jahre von Forschung und Lehre freigestellt war, entstand 1976 das Hauptwerk von Joseph Weizenbaum, Computer Power and Human Reason [4], das auf Deutsch unter dem Titel "Die Macht der Computer und die Ohnmacht der Vernunft" erschien. In diesem Buch finden sich viele Momente, die später Allgemeingut geworden sind, etwa die Beschreibung der Programmierer-Kultur, die für Außenstehende etwas leicht Irrsinniges hat oder die Kritik an den Versprechungen der Künstlichen Intelligenz.
Sein Anliegen formulierte Weizenbaum so: "Ohne Frage hat die Einführung des Computers in unsere bereits hochtechnisierte Gesellschaft, wie ich zu zeigen versuche, lediglich die früheren Zwänge verstärkt und erweitert, die den Menschen zu einer immer rationalistischeren Auffassung seiner Gesellschaft und zu einem immer mechanistischeren Bild von sich selbst getrieben haben." Ideengeschichtlich war Weizenbaum stark von Lewis Mumford und seinem Buch vom Mythos der Maschine [5] beeinflusst.
Computer – zentrale Maschine des Informationszeitalters
Mumford begleitete die Entstehung von Weizenbaums Buch mit Rat und Tat [6] und war laut Weizenbaum der einzige, der das komplette Werk vor dem Druck gelesen hatte. Mumford hatte in Technik und Zivilisation [7] (fotografisches PDF) die Erfindung der mechanischen Uhr als die "entscheidende Maschine des Industriezeitalters" bestimmt. Analog dazu wurde für Weizenbaum der Computer zur zentralen Maschine des Informationszeitalters. Sein Buch beginnt mit längeren Zitaten von Mumford zur Rolle der Uhr, dann schrieb er: "Uhren sind im wesentlichen Modelle des Planetensystems. Sie sind die ersten autonomen Maschinen, die der Mensch gebaut hat, und bis zum Aufkommen des Computers sind sie auch die einzigen, die wirklich von Bedeutung waren."
Ähnlich wie mit den Uhren die Uhrzeit zur inneren Natur der Menschen wurde, wirken sich auch Computer auf die Psyche des Menschen aus. Programmierer, die nicht vom Computer loskommen, werden nach Weizenbaum Zwangsprogrammierer, mitunter von ihm auch als Hacker bezeichnet. "Es muss gesagt werden, dass nicht alle Hacker pathologische Zwangsprogrammierer sind. In der Tat, gäbe es nicht die – nach ihren eigenen Worten – höchst kreative Arbeit von Leuten, die den stolzen Titel 'Hacker' für sich beanspruchen, so hätten wir heute kaum die modernsten Simultanrechner, elektronische Übersetzer, Zeichner etc."
"Künstliche Neurosen"
Über weite Strecken hinweg beschäftigte sich Weizenbaum in dem Buch mit der Künstlichen Intelligenz, wie sie seinerzeit von den Wissenschaftlern definiert wurde, die an einem mehrwöchigen Workshop am Dartmouth College [8] teilnahmen. Unter dem Titel "Künstliche Neurosen" berichtete die Philosophin Margaret Boden über den Workshop: "Freud hat gezeigt, dass der Mensch neurotisch programmierbar ist, jetzt müssen nur noch die Computer die entsprechenden Programme haben, um sich mit dem Menschen verständigen zu können." Diese Einschätzung war es, die Weizenbaum als Unvernunft bekämpfen wollte.
Sein Buch wurde von den Vertretern der harten KI entsprechend kritisiert. "Das unvernünftige Buch ist genauso wirr und schlecht wie Eliza, es ist an der Zeit, festzuhalten, dass der Computer eine unschuldige Maschine ist", donnerte John McCarthy [9] 1976 in der "Creative Computing". Die geharnischte Kritik "erschien zuerst als öffentliche Datei in dem ARPA net", so die Herausgeber der Zeitschrift in einer Fußnote. Gut möglich, dass der Aufsatz von McCarthy die erste Buchkritik im Internet darstellte. Ein anderer Kritker, der MIT-Informatiker Michael Dertouzos stritt sich mit Weizenbaum im Fernsehen [10].
"Grabenkämpfer gegen den Imperialismus der instrumentellen Vernunft"
Auch nach seiner Emeritierung im Jahre 1988 blieb Weizenbaum seinem Thema treu und bereiste vor allem Europa als "Grabenkämpfer gegen den Imperialismus der instrumentellen Vernunft", wie er es einmal formulierte. Nach dem Fall der Mauer zog Weizenbaum aus den USA in seine Geburtsstadt Berlin um. Mit dem Internet oder dem von ihm so genannten World-Wide-Net fand er eine weitere Bestätigung seiner Gedanken, was Menschen da verwechseln. Das Netz ist nicht schlau, aber auch in einem Misthaufen kann man gelegentlich Perlen finden, wenn man weiß, wie eine Suche funktioniert.
Ausgeführt findet sich das in einem Vortrag [11], den Weizenbaum 1996 an der Sommeruniversität Osnabrück zum Thema "Datenautobahnen, die Informationsgesellschaft und die Arbeitswelt der Zukunft" hielt. "Es ist sehr wichtig zu wissen, dass der Computer oder das Netzwerk und diese ganze Maschinerie, in dem die Elektronen oder Lichtsignale so rumsausen, sich nicht um das, was ich unter Informationen verstehe, kümmert. Die kümmern sich, wenn überhaupt, die kümmern sich um Daten, die sie rumschieben müssen. Das System selber weiß nicht, um was es dabei geht. Erst der Mensch interpretiert die Daten und Fakten und zieht daraus seine Folgerungen."
Joe Weizenbaum auf einer Veranstaltung auf der Sommeruniversiät Osnabrück, September 1996
(Bild: Detlef Borchers)
Gedanken über die Zukunft
In zahllosen Vorträgen, die er vor allem in Deutschland hielt, zeigte sich Weizenbaum als Gesellschaftskritiker auch abseits der Informationstechnologie. "Nehmen wir das Beispiel Umweltverschmutzung. Da ist absolut nicht der Fall, dass wir nicht wüssten, was wir tun müssten. Wir wissen es ganz genau. Aber ob wir den Willen haben, uns politisch so zu organisieren, dass sich tatsächlich etwas ändert, ist eine andere Frage."
Nach der Jahrhundertwende dachte er verstärkt darüber nach, wie die Zukunft aussehen könnte. "Die dringendste Aufgabe, die wir im neuen Jahrhundert beantworten müssen, ist, welches Menschenbild mit seiner grundlegenden Metaphorik unser Denken, Empfinden, unsere Schöpfung usw. in der nahen und fernen Zukunft formen wird. Zwei wissenschaftliche Strömungen des Denkens und Handelns werden nach meiner Auffassung die Antwort bestimmen: Generell die Weiterentwicklung von Computern sowie die Entwicklung der Biologie, speziell der Gentechnik. Diese zwei Strömungen haben bereits mit der Verschmelzung begonnen und sie werden weiter zusammenwachsen, so wie zum Beispiel Rechner und Kommunikation es schon gemacht haben."
"New Eliza"
Sein letztes Programm entwickelte Weizenbaum im Jahre 2006 und nannte es "New Eliza". Es war der Versuch, mittels Skype und einem digitalen Anrufbeantworter einen "simulierten Joe" für Diskussionen über künstliche Intelligenz zur Verfügung zu stellen. Wer ihn anrief, konnte mit diesem Joe diskutieren. Gelegentlich mischte sich der echte Joe ein und nahm den Hörer ab.
Erschöpft vom Kampf gegen eine Krebserkrankung schrieb Weizenbaum an seinen Bekanntenkreis eine Art Fazit "Was ich am Ende meines Lebens glaube": "Würde die weltweite Gesellschaft bloß vernünftig sein, könnte das schon erreichte Wissen der Menschheit ein Paradies aus dieser Erde machen." Seinen eigenen Tod vor Augen, formulierte er diesen als einen letzten Dienst an die Menschheit. "Unser Tod ist der letzte Service, den wir der Welt leisten können: würden wir nicht aus dem Weg gehen, würden die uns folgenden Generationen die menschliche Kultur nicht wieder frisch erstellen müssen. Sie würde starr, unveränderlich werden, also sterben. Und mit dem Tod der Kultur würde alles Menschliche auch untergehen."
"Wir gegen die Gier"
Joseph Weizenbaum starb kurz nach seinem 85. Geburtstag [12] am 5. März 2008 nach einem Schlaganfall im Kreise der Familie in Gröben. Zum Geburtstag konnte er noch sein politisches Credo veröffentlichen. Es erschien unter dem Titel "Wir gegen die Gier" in der Süddeutschen Zeitung und beginnt pessimistisch: "Die Erde ist ein Irrenhaus. Dabei könnte das bis heute erreichte Wissen der Menschheit aus ihr ein Paradies machen. Dafür müsste die weltweite Gesellschaft allerdings zur Vernunft kommen." Doch der alte, zornige Grabenkämpfer gegen die instrumentalisierte Vernunft, gegen das Streben nach Reichtum und Macht, der Informatikern schon mal zurief "hört auf, euch mit den vergifteten Früchten des Wahnsinns vollzufressen", brach auch in diesem letzten Text durch: "Der Glaube, dass Wissenschaft und Technologie die Erde vor den Folgen des Klimawandels bewahren wird, ist irreführend. Nichts wird unsere Kinder und Kindeskinder vor einer irdischen Hölle retten. Es sei denn: Wir organisieren den Widerstand gegen die Gier des globalen Kapitalismus."
Zur Feier des 100. Geburtstages von Joe Weizenbaum gibt es am 10. Januar im Berliner Weizenbaum-Institut einen Festakt, der gestreamt [13] werden soll. Auch das Paderborner Heinz-Nixdorf Museum erinnert [14] an den Gesellschaftskritiker.
