Ethik für Algorithmen: Wie man verhindern will, dass Software Böses tut

Algorithmen sollen fair sein, transparent und nachvollziehbar – solche ethischen Leitlinien haben derzeit Konjunktur. Aber braucht man überhaupt neue Regeln?

Artikel verschenken
In Pocket speichern vorlesen Druckansicht 14 Kommentare lesen
Wie man verhindern will, dass Software Böses tut

(Bild: Albert Hulm)

Lesezeit: 13 Min.
Inhaltsverzeichnis

Algorithmen sind fester Bestandteil unserer Gesellschaft. Sie erleichtern das Leben in unzähligen Situationen, vernetzen Menschen mit Gleichgesinnten und navigieren in unbekannten Städten. Dieselben Algorithmen können aber zum Problem werden, wenn man sie nicht kontrolliert und versteht. Ein System, das Gleichgesinnte zusammenführt, schließt schon fast zwingend Andersdenkende aus. Wenn es zu viel oder zu unkontrolliert Einfluss gewinnt, kann es Gesellschaften spalten und letztlich demokratische Mechanismen gefährden.

Solche Befürchtungen sind nicht aus der Luft gegriffen, immer wieder hört man von Systemen, die an gesellschaftlich relevanten Punkten zum Einsatz kommen und dann unbeabsichtigtes Verhalten zeigen. Bekanntes Beispiel ist ein von Amazon entwickeltes System zur Beurteilung von Bewerbern – bei dem sich zeigte, dass es systematisch Frauen benachteiligt. Noch bedenklicher ist der ebenfalls recht berühmte Fall des Systems COMPAS, das in den USA die Rückfallwahrscheinlichkeit von Straftätern berechnet. Es hat damit direkt Einfluss auf die Länge der verhängten Haftstrafen. Studien werfen dem System vor weitgehend nutzlos zu sein und – noch schlimmer – das Rückfallrisiko von schwarzen Angeklagten grundsätzlich zu über- und das von weißen Angeklagten zu unterschätzen.

Mehr zum Thema: Algorithmen

Aufgrund solcher Fälle erfährt das Thema Ethik in der IT zurzeit große Aufmerksamkeit. Projekte wie "Algorithmenethik" der Bertelsmann Stiftung oder die "AG Ethik" der Initiative D21 schlagen Regelwerke zur Einhegung solcher Systeme vor, die mal als "algorithmisches System", mal als "künstliche Intelligenz" (KI) bezeichnet werden. Auch die Politik hat diverse Initiativen gestartet: auf Bundesebene unter anderem die Datenethikkommission und die Enquete-Kommission "Künstliche Intelligenz". Und die EU-Kommission hat Mitte Februar ein Weißbuch zur Künstlichen Intelligenz vorgestellt.

Das war die Leseprobe unseres heise-Plus-Artikels "Ethik für Algorithmen: Wie man verhindern will, dass Software Böses tut". Mit einem heise-Plus-Abo können sie den ganzen Artikel lesen und anhören.