Ethik für Algorithmen: Wie man verhindern will, dass Software Böses tut
Algorithmen sollen fair sein, transparent und nachvollziehbar – solche ethischen Leitlinien haben derzeit Konjunktur. Aber braucht man überhaupt neue Regeln?
(Bild: Albert Hulm)
Algorithmen sind fester Bestandteil unserer Gesellschaft. Sie erleichtern das Leben in unzähligen Situationen, vernetzen Menschen mit Gleichgesinnten und navigieren in unbekannten Städten. Dieselben Algorithmen können aber zum Problem werden, wenn man sie nicht kontrolliert und versteht. Ein System, das Gleichgesinnte zusammenführt, schließt schon fast zwingend Andersdenkende aus. Wenn es zu viel oder zu unkontrolliert Einfluss gewinnt, kann es Gesellschaften spalten und letztlich demokratische Mechanismen gefährden.
Solche Befürchtungen sind nicht aus der Luft gegriffen, immer wieder hört man von Systemen, die an gesellschaftlich relevanten Punkten zum Einsatz kommen und dann unbeabsichtigtes Verhalten zeigen. Bekanntes Beispiel ist ein von Amazon entwickeltes System zur Beurteilung von Bewerbern – bei dem sich zeigte, dass es systematisch Frauen benachteiligt. Noch bedenklicher ist der ebenfalls recht berühmte Fall des Systems COMPAS, das in den USA die Rückfallwahrscheinlichkeit von Straftätern berechnet. Es hat damit direkt Einfluss auf die Länge der verhängten Haftstrafen. Studien werfen dem System vor weitgehend nutzlos zu sein und – noch schlimmer – das Rückfallrisiko von schwarzen Angeklagten grundsätzlich zu über- und das von weißen Angeklagten zu unterschätzen.
Ethische Leitlinien
Aufgrund solcher Fälle erfährt das Thema Ethik in der IT zurzeit große Aufmerksamkeit. Projekte wie "Algorithmenethik" der Bertelsmann Stiftung oder die "AG Ethik" der Initiative D21 schlagen Regelwerke zur Einhegung solcher Systeme vor, die mal als "algorithmisches System", mal als "künstliche Intelligenz" (KI) bezeichnet werden. Auch die Politik hat diverse Initiativen gestartet: auf Bundesebene unter anderem die Datenethikkommission und die Enquete-Kommission "Künstliche Intelligenz". Und die EU-Kommission hat Mitte Februar ein Weißbuch zur Künstlichen Intelligenz vorgestellt.
Immer mehr Wissen. Das digitale Abo für IT und Technik.
Papierloses Büro: Wie man mit paperless-ngx die Dokumentenverwaltung optimiert
Wie eine lokale KI die Fotosammlung auf dem NAS verschlagworten kann
Elektroauto MG4 Trophy im Test: Bestseller mit Batterie-Upgrade
High-End-Smartphones im Kameravergleich: Wettkampf um die beste Bildqualität
DNS-Leck: Browser ignorieren Windows-Konfiguration
Im Test: Zehn USB-SSDs und -Sticks mit 1 oder 2 TByte Speicherplatz
Immer mehr Wissen. Das digitale Abo für IT und Technik.
DNS-Leck: Browser ignorieren Windows-Konfiguration
Boox Note Air3 C im Test: Hybrid-Tablet mit farbigem E-Paper-Display
Proxmox VE: Was es kann und was man dafür braucht
CPU-Guide 2024: Notebook-Prozessoren von AMD, Apple und Intel im Vergleich
Smart-Home-Zentralen im Vergleich: Amazons Echo Hub gegen Home Assistant