Ethik für Algorithmen: Wie man verhindern will, dass Software Böses tut
Algorithmen sollen fair sein, transparent und nachvollziehbar – solche ethischen Leitlinien haben derzeit Konjunktur. Aber braucht man überhaupt neue Regeln?
(Bild: Albert Hulm)
Algorithmen sind fester Bestandteil unserer Gesellschaft. Sie erleichtern das Leben in unzähligen Situationen, vernetzen Menschen mit Gleichgesinnten und navigieren in unbekannten Städten. Dieselben Algorithmen können aber zum Problem werden, wenn man sie nicht kontrolliert und versteht. Ein System, das Gleichgesinnte zusammenführt, schließt schon fast zwingend Andersdenkende aus. Wenn es zu viel oder zu unkontrolliert Einfluss gewinnt, kann es Gesellschaften spalten und letztlich demokratische Mechanismen gefährden.
Solche Befürchtungen sind nicht aus der Luft gegriffen, immer wieder hört man von Systemen, die an gesellschaftlich relevanten Punkten zum Einsatz kommen und dann unbeabsichtigtes Verhalten zeigen. Bekanntes Beispiel ist ein von Amazon entwickeltes System zur Beurteilung von Bewerbern – bei dem sich zeigte, dass es systematisch Frauen benachteiligt. Noch bedenklicher ist der ebenfalls recht berühmte Fall des Systems COMPAS, das in den USA die Rückfallwahrscheinlichkeit von Straftätern berechnet. Es hat damit direkt Einfluss auf die Länge der verhängten Haftstrafen. Studien werfen dem System vor weitgehend nutzlos zu sein und – noch schlimmer – das Rückfallrisiko von schwarzen Angeklagten grundsätzlich zu über- und das von weißen Angeklagten zu unterschätzen.
Ethische Leitlinien
Aufgrund solcher Fälle erfährt das Thema Ethik in der IT zurzeit große Aufmerksamkeit. Projekte wie "Algorithmenethik" der Bertelsmann Stiftung oder die "AG Ethik" der Initiative D21 schlagen Regelwerke zur Einhegung solcher Systeme vor, die mal als "algorithmisches System", mal als "künstliche Intelligenz" (KI) bezeichnet werden. Auch die Politik hat diverse Initiativen gestartet: auf Bundesebene unter anderem die Datenethikkommission und die Enquete-Kommission "Künstliche Intelligenz". Und die EU-Kommission hat Mitte Februar ein Weißbuch zur Künstlichen Intelligenz vorgestellt.
Das war die Leseprobe unseres heise-Plus-Artikels "Ethik für Algorithmen: Wie man verhindern will, dass Software Böses tut". Mit einem heise-Plus-Abo können sie den ganzen Artikel lesen und anhören.Immer mehr Wissen. Das digitale Abo für IT und Technik.
Informatik per Fernstudium: Wie es sich vom Lernen mit Udemy & Co. unterscheidet
Einstieg in Field Programmable Gate Arrays für Bastler
Einsteiger-Guide: Wegweiser durch Git, GitHub und GitLab
Einführung in die Programmiersprache Rust
Fotosammlung organisieren: Wie Sie Ihre digitalen Bilder clever verwalten