Essay: Die sieben Todsünden der KI-Vorhersagen
Falsche Extrapolationen, begrenzte Vorstellungskraft und andere Fehler halten uns davon ab, produktiver über die Zukunft der künstlichen Intelligenz nachzudenken.
- Rodney Brooks
Brooks ist Gründer von Rethink Robotics und iRobot. Dieser Essay erschien ursprünglich auf rodneybrooks.com.
Um uns herum herrscht eine Hysterie darüber, wie mächtig künstliche Intelligenz eines Tages wird – und was sie dann mit unseren Jobs anstellt. Vor Kurzem sagte ein Artikel voraus, dass Roboter in 10 bis 20 Jahren die Hälfte der heutigen Jobs übernehmen werden. Von rund einer Million Stellen für Straßenbauarbeiter in den USA sollen gar nur 50000 übrig bleiben.
Solche Behauptungen sind lächerlich. Wie viele Roboter sind derzeit in diesen Jobs im Einsatz? Null. Wie viele realistische Demonstrationen gab es in diesem Bereich? Null. Ähnliches gilt für alle vergleichbaren Branchen. Diese Vorhersagen führen zu unberechtigten Ängsten, sei es vor dem Verlust von Arbeitsplätzen oder vor einer künstlichen Intelligenz, die uns vernichten will.
Wir müssen diesem fehlerhaften Denken entgegentreten. Aber worauf beruht es? Ich sehe sieben Gründe:
1. Gleichzeitig über- und unterschätzen
Roy Amara war Mitgründer des Institute for the Future in Palo Alto, dem intellektuellen Herzen des Silicon Valley. Er hat eine Faustregel aufgestellt, die bis heute als "Amaras Gesetz" bekannt ist: Wir neigen dazu, die Wirkung einer Technologie kurzfristig zu überschätzen und auf lange Sicht zu unterschätzen.
Es steckt viel drin in diesen 16 Wörtern. Ein Optimist kann sie auf die eine, ein Pessimist auf die andere Art lesen. Ein großartiges Beispiel dafür ist das Satellitennavigationssystem GPS. Es wurde 1978 gestartet, um das US-Militär zu unterstützen. Doch in den 1980er-Jahren stand es mehrfach auf der Kippe. Der erste bestimmungsgemäße Einsatz erfolgte erst 1991 im Irak-Krieg.
Heute wird GPS auf eine Art und Weise genutzt, die damals unvorstellbar war. Es bringt Flugzeuge ans Ziel, überwacht Straftäter und Lastwagenflotten, es verrät dem Bauern, wo er auf seinen Feldern wie viel säen muss. Würde es ausgeschaltet, würden wir uns nicht einfach nur verirren: Wir wären unterkühlt, hungrig und wahrscheinlich tot.
Ein ähnliches Muster sehen wir auch bei anderen Technologien der letzten 30 Jahre – ob Genomsequenzierungen, Sonnenenergie, Windkraft oder die Lieferung von Lebensmitteln nach Hause: Zuerst ein großes Versprechen, anschließend Enttäuschung und dann langsam wachsendes Vertrauen in Ergebnisse, bis diese letztlich die ursprünglichen Erwartungen übertreffen.
Künstliche Intelligenz wurde immer wieder überschätzt, in den 1960ern, in den 1980ern, und ich glaube jetzt auch wieder. Ihre langfristigen Auswirkungen werden hingegen gleichzeitig unterschätzt. Die Frage ist aber: Wie lang ist langfristig? Die nächsten sechs Denkfehler erklären, warum dieser Zeitraum stark unterschätzt wird.
2. Vorstellungen von Magie
Stellen Sie sich vor, wir hätten eine Zeitmaschine und könnten Isaac Newton vom späten 17. Jahrhundert in die Gegenwart beamen. Jetzt drücken Sie ihm ein iPhone in die Hand, spielen ihm etwas Kirchenmusik aus seiner Zeit vor, zeigen ihm online die Seiten seines persönlich kommentierten Exemplars der "Principia Mathematica".
Könnte Newton erklären, wie dieses kleine Gerät all das schafft? Obwohl er Optik und Gravitation erklärte, war er zeitlebens nie in der Lage, Chemie und Alchemie voneinander abzugrenzen. Ich glaube, er könnte nicht einmal eine vage zusammenhängende Erklärung für die Funktion eines Smartphones liefern. Es wäre für ihn nicht von Magie zu unterscheiden. Und denken Sie daran: Newton war ein wirklich kluger Kerl.
Wenn etwas magisch ist, ist es schwer, seine Grenzen zu kennen. Angenommen, wir zeigen Newton nun, wie das Gerät fotografiert und Töne aufnehmen, arithmetische Berechnungen mit unglaublicher Geschwindigkeit anstellen oder Menschen auf der ganzen Welt anrufen kann. Was dürfte Newton dem Gerät noch alles zutrauen? Vielleicht auch Blei in Gold zu verwandeln?
Dieses Problem haben wir mit allen unseren erdachten Zukunftstechnologien. Wenn sie weit genug von unserer vertrauten Technik entfernt sind, kennen wir ihre Grenzen nicht. Und wenn sie von der Magie nicht mehr zu unterscheiden sind, sind alle Aussagen über sie nicht mehr falsifizierbar.
Damit werde ich regelmäßig konfrontiert, wenn ich mit Menschen diskutiere, ob wir vor einer "Allgemeinen künstlichen Intelligenz" Angst haben sollten – also vor autonomen Agenten, die ähnlich wie Menschen agieren. Mir wurde oft gesagt, dass ich nicht verstehe, wie mächtig sie sein werden. Aber das ist kein Argument. Die moderne KI-Forschung scheint immer noch die gleichen Probleme mit dem gesunden Menschenverstand zu haben wie vor 50 Jahren. Wir haben noch immer keine Ahnung, wie man eine Allgemeine künstliche Intelligenz bauen soll. Ihre Eigenschaften sind völlig unbekannt, also wird sie in der Rhetorik schnell magisch, allmächtig und grenzenlos.
Aber nichts im Universum ist grenzenlos. Achten Sie auf Aussagen, die magisch sind. Sie können niemals widerlegt werden. Sie sind Argumente des Glaubens, nicht der Wissenschaft.
3. Leistung versus Kompetenz
Wir alle nutzen Hinweise darüber, wie Menschen bestimmte Aufgaben schaffen, um einzuschätzen, wie gut sie in anderen Bereichen sind. Wenn uns jemand erzählt, dass ein Foto frisbeespielende Menschen im Park zeigt, gehen wir natürlich davon aus, dass er beispielsweise auch weiß, wie weit man ein Frisbee werfen kann, ob die Scheibe essbar ist, und ob heute gutes Wetter zum Frisbeespielen herrscht. Computer können die Bilder von Frisbeespielern zwar ebenfalls als solche erkennen.
Aber sie haben keine Chance, die entsprechenden Fragen zu beantworten. Sie wissen zum Beispiel nicht, was eine Person ist, dass sich Parks in der Regel im Freien befinden, und dass Wetter mehr ist als nur ein bestimmter Look der Fotos. Das bedeutet nicht, dass diese Systeme nutzlos sind; sie sind für Suchmaschinen von großem Wert.
