Internet Summit Austria: "Künstliche Intelligenz ist ein unglücklicher Begriff"​

Inhaltsverzeichnis

"Was bleibt vom Menschen, wenn Intelligenz künstlich wird?" Diese Frage war Donnerstagabend Thema des Internet Summit Austria 2023 in Wien. Doch vielleicht stolpert schon die Fragestellung über ihren zentralen Begriff. Niemand weiß genau, was KI überhaupt ist, wie Menschenrechtsexpertin Carina Zehetmaier in ihrem Eröffnungsvortrag aufgezeigt hat. "Es gibt keine globale, anerkannte Definition von KI", sagte die Präsidentin des Vereins Women in AI Austria.

Zwar soll es im EU AI Act, der geplanten EU-Verordnung zu rechtlichen Grundlagen für Künstliche Intelligenz, eine Definition geben; doch ob sich diese weltweit durchsetzt, bleibt abzuwarten. Jedenfalls wäre sie eine juristische Definition, keine philosophische oder wirtschaftliche.

Grundsätzlich hält Zehetmaier den Begriff "Künstliche Intelligenz" für unglücklich. "KI-Systeme können Entscheidungen von weitreichenden Konsequenzen treffen", erinnerte die Juristin. Welche Bewerber für einen Arbeitsplatz überhaupt zu einem Gespräch eingeladen werden, wer einen Kredit bekommt, wer wie lange im Gefängnis landet oder wer von der Polizei beschattet wird, hängt immer öfter von Algorithmen ab, bei denen selbst deren Erschaffer nicht wissen, wie sie funktionieren.

Autonome Entscheidungssysteme

Daher spricht Zehetmaier viel lieber von "autonomen Entscheidungssystemen" als von Künstlicher Intelligenz. Entsprechend sucht man auf der Webseite der von Zehetmaier mitgegründeten Firma Taxtastic den Begriff KI vergeblich. Taxtastic ist angetreten, Kassenbons und andere Belege automatisch zu analysieren, um dem Steuerzahler entsprechende Einordnungen in seiner Steuererklärung vorzuschlagen. Ein KI-Startup, das zur Abwechselung nicht mit KI hausieren geht.

"Wir alle verwenden Künstliche Intelligenz seit Jahren", hielt Zehetmaier fest. Sobald aber der Einsatz von KI in einem bestimmten Bereich gesellschaftlich akzeptiert sei, werde sie gar nicht mehr Künstliche Intelligenz genannt – sei es bei Routenberechnungen, digitaler Fotografie oder den von Online-Diensten wie Netflix unterbreiteten Vorschlägen.

PEBCAK: Bias beschränkt sich nicht auf Daten

Das ändert aber nichts daran, dass im Hintergrund Algorithmen autonom Entscheidungen treffen. Diese Entscheidungen sind "weder objektiv noch neutral", unterstrich die Expertin, denn "KI ist ein Spiegel unserer Gesellschaft". Schließlich wird sie mit Daten trainiert, die von Menschen stammen.

Und das nur mit Daten ausgewählter Menschen: Englischsprachige Inhalte sind in den großen generativen KI-Modellen enorm überrepräsentiert. Und Inhalte von Menschen, die nicht im Internet sind, fließen praktisch überhaupt nicht ein. Das seien immerhin noch 36 Prozent aller Menschen, betonte Zehetmaier.

Keineswegs sei die mit Algorithmen verbundene Voreingenommenheit (Englisch: Bias) auf die Trainingsdaten beschränkt, warnte die Österreicherin. Auch die Nutzer der Algorithmen seien voreingenommen, speziell zugunsten von Automaten. Deren Entscheidungen würden viel seltener hinterfragt als menschliche Entscheidungen.

KI-Ergebnisse brauchen Transparenz

Für Erheiterung im Publikum sorgte Zehetmaiers Schilderung einer Begebenheit aus Polen. Dort führte eine Behörde ein KI-Programm ein. Die Mitarbeiter der Behörde bestätigten jeden einzelnen Entscheidungsvorschlag der KI zu hundert Prozent. Hätten sie eine andere Entscheidung als von der KI vorgeschlagen treffen wollen, hätten die Behördenmitarbeiter das begründen müssen. Die Entscheidung durchzuwinken erforderte indes keinen Arbeitsaufwand. Für Zehetmaier verbirgt sich dahinter ein ernstes Problem: Das Gefährliche an KI seien weniger Dystopien, wie der Terminator, sondern vielmehr das blinde Vertrauen von Menschen in KI.

Ein Patentrezept dagegen hat auch Zehetmaier nicht. Sie verweist auf die 2019 erschienenen Ethik-Leitlinien der Europäischen Union für das Design von KI und hält auch den vom zukünftigen EU AI Act verfolgten risikobasierten Ansatz für sinnvoll. Ein Algorithmus in einem Computerspiel hat schließlich andere Auswirkungen, als ein Programm, das medizinische Behandlungen ausarbeitet oder die Dauer von Haftstrafen berechnet.

Zudem schlug Zehetmaier einfache Maßnahmen vor: Wichtig sei, dass autonome Entscheidungssysteme nicht bloß eine Entscheidung treffen oder vorschlagen, sondern dass sie dabei stets angeben, von welchem Grad an Überzeugung (Englisch confidence) diese Ausgabe getragen ist. Außerdem sollten KI-Entwickler vermeiden, ihre Systeme auf die Ausgabe von Ja/Nein-Antworten zu trimmen. Besser seien Algorithmen, die wichtige Aspekte herausheben.

Das Internet Summit Austria soll zu Diskussionen anregen und ist eine jährliche Veranstaltung der Internet Service Provider Association Austria (ISPA). Der 1997 gegründete Branchenverband hat 225 Unternehmen als Mitglieder und versteht sich als Stimme der Internetwirtschaft in Österreich. Meinungen Vortragender müssen sich nicht mit Meinungen des Veranstalters decken.

(ds)