Seite 2: "Ich habe mich an realen Entwicklungen orientiert."

Inhaltsverzeichnis

heise Developer: Ohne zu viel verraten zu wollen, aber ist das Thriller-Szenario rund um Gaia, also die beinahe Allmacht einer kommerziellen KI, die wie eine Blackbox ins Leben ihrer Nutzer eingreift, noch sehr fiktional oder wie weit stimmt das Szenario mit den Bestrebungen der Tech-Riesen überein?

Meier: Ich habe mich auch hier an realen Entwicklungen orientiert. Der fiktive Cloud-Konzern Gaia ist eine Mischung aus Amazon und Google. Diese Unternehmen wollen KI zu einer Infrastruktur machen, die in alle Lebensbereiche eindringt. Manche Leute stellen sich Alexa ins Schlafzimmer! Aber nicht nur das. Beide Firmen bauen die künftigen Plattformen für KI. Googles Android-Smartphones gehören dazu.

Amazon bietet KI-Dienstleistungen auf seiner Cloud an, die unter anderem Volkswagen nutzen will, um seine Produktionsprozesse zu verbessern. In Zukunft könnte, wie in meinem Thriller, das, was wir Industrie 4.0 nennen, zum Gutteil auf Amazons Servern stattfinden. Auch Firmen und Behörden im Gesundheitswesen nutzen die Amazon-Cloud. Die Tech-Riesen verfügen zudem über den Rohstoff, den KI zum Lernen nutzt: Daten aus allen Lebensbereichen wie Konsum, Kommunikation, Verkehr, Industrie, Logistik und Gesundheit. Man denke nur daran, dass die Google-Schwesterfirma Waymo autonome Autos entwickelt, die im Grunde Datenstaubsauger sind. Kurz gesagt: Diese Unternehmen, aber auch deren chinesische Pendants wie Alibaba oder Tencent, werden die KI-Infrastruktur beherrschen, wenn die Gesellschaft das zulässt.

Fiktional in meinem Thriller ist natürlich, dass es eine KI gibt, die Krebs und andere Krankheiten perfekt versteht und Patienten wie ferngewartete Maschinen kuriert. Ich halte das aber nicht für unmöglich. Schon heute wird KI in der Medizin eingesetzt. Bei speziellen Diagnosen sind Algorithmen schneller und treffsicherer als Ärzte. Dass man den Menschen zumindest teilweise aus der Schleife nimmt, ist naheliegend und wohl auch verantwortbar.

heise Developer: In diesen Tagen ist die Rede von der Verantwortung der Wissenschaftler und Entwickler beim Gestalten von Algorithmen und KI? Wie sehen Sie das, diese Verantwortung stellt schließlich auch einen Aspekt in Ihrem Buch dar?

Meier: Forscher machen sich zu wenig Gedanken über die Folgen ihrer Entwicklungen. Man redet die KI kleiner, als sie ist. Ein Argument lautet, dass heutige KI zur Erledigung spezifischer, enger Aufgaben trainiert wird beispielsweise Spracherkennung oder spezielle Diagnosen wie Hautkrebs. Sie ist quasi ein "Fachidiot". So hält man argumentativ einen Sicherheitsabstand von Dystopien aus der Science-Fiction mit selbstlernenden, selbstverbessernden, menschenähnlichen Maschinen wie dem "Terminator".

Diese Distanz untermauert man gerne mit dem Hinweis, dass KI die menschliche Intelligenz nie erreichen wird, weil sie auf Algorithmen basiert, das natürliche Gehirn jedoch nicht. Meines Erachtens ist das eine Glaubensfrage. De facto trifft KI immer mehr Entscheidungen, die zuvor von Menschen getroffen wurden. Das Entscheidende ist, dass KI einen Handlungsspielraum hat. KI kann überraschen. Könnte sie das nicht, dann wäre sie einfach nur herkömmliche Technik, die ein klar definiertes Ergebnis produziert.

Dass KI in der Praxis dem Menschen immer ähnlicher handelt, wirft tief greifende Fragen auf, etwa nach der Zurechnungsfähigkeit. Welche Fehler darf eine KI machen? KI läutet eine neue Epoche ein, ein neues Maschinenzeitalter. Derzeit schlittern wir auf der Jagd nach immer neuen Produktinnovationen blind in diese Ära. Ganz im Gegensatz übrigens zu China. Dort hat der Staat eine klare KI-Strategie: Er sieht in ihr ein Werkzeug, um zur weltweit führenden Macht zu werden, wirtschaftlich, politisch und bis Mitte des Jahrhunderts auch militärisch. Die Antwort des Westens darauf steht aus.