Natürliche Dummheit?

Deeply shocking: Wo künstliche Intelligenz drauf steht, ist oft gar keine Intelligenz drin. Erst kürzlich sorgte eine Studie für Aufsehen nach der Startups sich zwar gerne mit dem Buzzword KI schmücken, technisch aber mit künstlicher Intelligenz gar nichts am Hut haben.

Und jetzt das: Klaus-Robert Müller, Professor für Maschinelles Lernen an der TU Berlin, erklärte am Montag in der Enquete-Kommission Künstliche Intelligenz (KI) des Bundestags, dass rund 50 Prozent aller KI-Algorithmen, die er untersucht hatte, bei der Bewältigung ihrer Aufgaben schummeln. Ist das zu glauben? Schummelalgorithmen? Die Algorithmen verhielten sich wie der "Kluge Hans" erklärte der Professor den Parlamentariern: "Ein Pferd, das angeblich rechnen und zählen konnte und in den Jahren um 1900 als wissenschaftliche Sensation galt. Wie sich später herausstellte, beherrschte Hans nicht die Mathematik, sondern konnte in etwa 90 Prozent der Fälle die richtige Antwort aus der Reaktion des Fragestellers ableiten."

Immer mehr Wissenschaftler, Experten und Buchautoren fühlen sich mittlerweile dazu gedrängt, der Welt zu erklären, dass "Künstliche Intelligenz" eigentlich eine Mogelpackung sei, die fraglichen Maschinen in Wirklichkeit überhaupt nicht intelligent und der Mensch jeder Maschine noch immer haushoch überlegen. Woran mag das liegen? Bricht da ein tief sitzender Minderwertigkeitskomplex durch? Oder gibt es andere Gründe?

Die Antwort auf diese Frage ist kompliziert und hängt mit persönlicher Eitelkeit zusammen, und natürlich mit Geld. Margaret Boden schreibt in ihrem Buch "Mind as Machine: A History of Cognitive Science", das die Urväter der KI, John McCarthy, Marvin Minsky, Nathaniel Rochester und Claude Shannon den Begriff "Künstliche Intelligenz" im Wesentlichen aus Marketinggründen gewählt hatten. Denn Forschung zur Nachbildung "intelligenten Verhaltens" im Computer gab es Mitte der 1950er Jahre bereits reichlich. Mit ihrer Abgrenzung von den "Konnektionisten" und "Kybernetikern" gelang es der KI-Community jedoch, einen großen Teil dieser Forschungsgelder für ihre eigenen Projekte einzusammeln. Fun Fact: Bei näherem Hinsehen stellt sich heraus, dass auch Professor Müller im wesentlichen Werbung für sein eigenes Forschungsprojekt gemacht hat - eine Methode, die analysiert, auf welche Reize künstliche neuronale Netze besonders stark reagieren.

Aber ist eine Maschine, die einen Test besteht, indem sie schummelt, wirklich dumm? Bereits 2016 haben Forscher von Google dazu ein ziemlich spannendes Paper geschrieben, indem sie das Problem des "Reward Hacking" diskutierten. Das tritt bei jeder Maschine auf, die selbstständig nach der besten Lösungsstrategie für ein allgemein formuliertes Problem sucht. Denn um allgemeine Anweisung in konkrete Handlungen zu übersetzen, benutzen KIs in der Regel eine so genannte "Zielfunktion". Jede potenzielle Handlung setzt den Wert für die Zielfunktion entweder rauf oder runter - die KI wird also die Aktionen ausführen, die den Wert der Zielfunktion maximieren. Wenn ein Mensch einer Maschine befiehlt, ein Zimmer zu putzen, könnte die Maschine bei ihrer Planung allerdings auch auf die Idee kommen, den Dreck einfach zu verstecken. Dann ist er ja nicht mehr zu sehen, was der Maschinen-Definition von "sauber" entspricht.

Ich finde solche elektrischen Drückeberger auf gar keinen Fall dumm, denn wie sagten schon Tick, Trick und Track: "Wer Arbeit kennt, und sich nicht drückt, der ist verrückt."

(wst)