Die dunkle Macht der Computer

In der Science Fiction und im Kino gibt es als Standard-Mythos eine verhängnisvolle Eigenmacht, die Maschinen innewohnt und die dann irgendwann zutage tritt.

Computerprogramme und die ihnen zugrundeliegenden Algorithmen sind keine klaren, gesicherten Verläufe aus Regeln. Schon geringste Abweichungen können dramatische Folgen nach sich ziehen. 1962 verlor die Nasa ihre erste interplanetarische Raumsonde Mariner 1, weil im Programmcode der Raketensteuerung ein Querstrich fehlte. Es gibt Bücher voller Anekdoten und Analysen algorithmischer Fehler, die oft nur knapp an einer Katastrophe vorbeigeführt haben. Mit der geradezu explosionsartigen Ausbreitung der Informationstechnik in fast alle Winkel des Planeten verbreiten sich auch die Mängel und Risiken dieser neuartigen Versuche, die Welt zu steuern.

Bislang gibt es keine mathematische Methode, um zu beweisen, dass ein Algorithmus frei von Fehlern oder unerwünschten Nebenwirkungen abläuft. "Die meisten verfügbaren Computerprogramme, vor allem die umfangreichsten und wichtigsten unter ihnen, sind nicht ausreichend theoretisch fundiert", schrieb der Computerkritiker Joseph Weizenbaum bereits in den siebziger Jahren. "Ihre Bauweise folgt Faustregeln, die unter den meisten vorhersehbaren Umständen zu "funktionieren" scheinen, und auf anderen Mechanismen, die von Zeit zu Zeit zusätzlich eingebaut werden."

1978 wurde in Japan erstmals ein Mensch von einem Industrieroboter getötet, der plötzlich wild um sich geschlagen hatte. Drei Jahre später kam der Arbeiter Kanji Urata im japanischen Hyogo durch einen Roboter der Firma Kawasaki ums Leben. Der Mann hatte den Sicherheitszaun, der den Roboter umgab, übersprungen. Hätte er den Zaun geöffnet, hätte sich die Maschine automatisch abgeschaltet. Dass der Zaun übersprungen werden könnte, war in dem Algorithmus, der den Roboter mit dem nötigen Wissen über die Welt versorgte, nicht vorgesehen.

In der Science Fiction und im Kino gibt es als einen Standard-Mythos eine dunkle, eigenmächtige Kraft, die Maschinen innewohnt und die dann irgendwann mit der schreckenserregender Absicht zutage tritt, die Menschheit zu unterjochen oder zu vernichten. In den milderen Versionen treten unbegreiflich schlaue, skrupellose Computer an, um in technisch verbesserter Form die Evolution fortzusetzen, die eine Weile von der menschlichen Spezies vorangetragen worden ist. Diese dunkle Macht, die den Maschinen zugeschrieben wird, ist in Wahrheit eine Angst – die Angst, die Übersicht zu verlieren über den Fortgang jener Epoche, die der Moderne und der Postmoderne nun nachfolgt: der Hypermoderne, unserer Gegenwart.

Es ist die Angst, die Kontrolle zu verlieren, über substanzielle Bestände wie seine persönlichen Daten oder das Spektrum an Möglichkeiten, das einem in der digitalen Welt zur Verfügung steht. Es ist die Angst davor, dass Algorithmen zunehmend als eine überkomplexe und nicht greifbare Instanz, die uns zwar nicht unmittelbar feindlich, aber auch nicht wohlwollend gegenübersteht, in unser Leben und unseren Alltag einsickern – bis hin zur Beeinflussung persönlicher Entscheidungen.

Von der automatisierten Taxierung der Kreditwürdigkeit ("Scoring") bis zu den hochkomplexen Software-Instrumenten von Hedge-Fonds entscheiden programmgesteuerte Automatismen inzwischen über die Entwicklung ganzer Volkswirtschaften. An die Stelle politischer Berater treten Computermodelle und Simulationen, die durch Datenmassen und die suggestive Gleichsetzung von Berechenbarkeit mit Zuverlässigkeit eine neue, nur schwer angreifbare Autorität ins Spiel führen. Dass wir nun aber alle softwaregesteuert in den Echokammern unserer eigenen Ansichten isoliert würden, ist eine kulturpessimistische Sicht.

Sie holt ein längst abgelegtes Menschenbild aus der Mottenkiste – das des wehrlosen Medienopfers. Mit dem Internet hat sich die Kanalvielfalt und die Bewegungsfreiheit der Nutzer ins Millionenfache erweitert. Wenn an irgendeiner algorithmisch intransparenten Stelle zensiert, manipuliert oder gefiltert wird, wird darüber nicht mehr nur in herkömmlichen Massenmedien berichtet, sondern auch in den zahllosen neuen Meinungsblasen im Netz. "Kultur", das wusste schon der Historiker Egon Friedell vor fast hundert Jahren, "ist Reichtum an Problemen". (bsc)