Eigenwillige Maschinen

Dieser Gates ist doch tiefsinniger, als ich bislang dachte. Angeblich soll der Mann ja auf den Hinweis auf einen Fehler in Windows den legendären Satz geprägt haben: "It's not a bug, it's a feature". Darin steckt mehr Weisheit, als man auf den ersten Blick denken könnte. Das habe ich jetzt, bei meiner Beschäftigung mit dem Thema "autonome Autos", gelernt. (Die Geschichte ist übernächste Woche in der Juni-Ausgabe von TR zu lesen).

Wie das zusammen spielt, wollen Sie wissen? Bill Gates und autonome Autos? Ich muss zugeben, die Assoziationslinie ist ein bisschen nichtlinear. Sie fängt mit dem Begriff der Autonomie an. Ich hatte mich daran gewöhnt, diesen Begriff auch im Zusammenhang mit Maschinen zu verwenden. "Autonome Roboter" – klingt doch gleich immer den entscheidenden Tuck interessanter... Aber "Selbstbestimmung" für Maschinen – macht das überhaupt Sinn?

Der Technikforscher Ingo Schulz-Scheffner unterscheidet in dem kürzlich erschienen Buch "Die Verselbstständigung des Computers" drei Dimensionen "technischer Selbstständigkeit": Verhaltensautonomie, Entscheidungsautonomie und Informationsautonomie. Die weitgehendste Form der Autonomie ist demnach die Informationsautonomie: Dabei ist, so Schulz-Scheffner "in den Verfahrensvorschriften des technischen Gerätes ... nicht mehr für jede Kombination aus Auslösereiz und gespeicherten Informationen die zugehörige Verhaltensreaktion festgelegt. Stattdessen ist irgendeine Form der technischen Informationsverarbeitung zwischengeschaltet".

Das heißt aber im Klartext: Selbst wenn die Entwickler hundertprozentig fehlerfreie Software programmiert hätten, könnten sie die Aktionen einer informationsautonomen Maschine nicht mit Sicherheit vorhersagen lassen – weil niemand alle möglichen Kombinationen an Informationen durchspielen kann, die der Maschine vorliegen. Noch vertrackter wird die Situation, wenn die Maschine die Regeln, nach denen Sie agiert, selbsttätig aus den vorhandenen Informationen ableitet. An der Stelle käme dann wieder Gates in's Spiel – und seine Aussage wäre möglicherweise gar nicht mal falsch.

Die ganze Geschichte hat aber noch eine interessante weitere Dimension: Es bedeutet nämlich, dass wir uns, wenn wir autonome Maschinen bauen auch wirklich und tatsächlich die Kontrolle über das, was passieren kann, aufgeben. Das mag für einen Ingenieur ein erschreckender Gedanke sein – aber vielleicht hilft es gelegentlich, sich das auch wirklich mal vor Augen zu führen. (wst)