Ethische KI: Ein Leitfaden für verantwortungsvolle KI-Entwicklung​

Inhaltsverzeichnis

Terminator, Matrix, Wall-E – In Science-Fiction-Filmen versucht oft eine Künstliche Intelligenz (KI) die Menschheit zu zerstören oder auszunutzen. Diese Szenarien basieren auf der Idee einer allumfassenden, generellen künstlichen Intelligenz, die nahezu alles kann. Eine solche KI wäre ein technischer Meilenstein, von dem wir noch weit entfernt sind. Trotzdem dominieren Ängste vor einer solchen allgemeinen KI häufig den Diskurs über KI-Ethik.

Mehr zum Thema Künstliche Intelligenz (KI)

• KI-Sprachmodelle: Qualitäts- und Urheberrechtsprobleme mit Trainingstexten
• Informatikunterricht: KI in der Jahrgangsstufe 6 - ein Modellversuch
• Fünf Vektordatenbanken für KI-Modelle und Machine Learining im Test
• Analyse: Weshalb sich der KI-Stromverbrauch schlecht einschätzen lässt
• Security: Die zehn Schwachstellen der großen KI-Modelle
• Im Test: KI-Schreibassistenten für englische Texte
• Neuling in der Klasse: ChatGPT und Co. kommen in die Schule
• Webdienste zur KI-gestützten Erstellung von Präsentationen im Test
• Gefahren generativer Bild-KI: Fake News erkennen
• Warum KI-Bilder keine echten Fotos sind und wir uns trotzdem damit beschäftigen

Dabei bieten bereits aktuelle KI-Systeme das Potenzial, großen Schaden anzurichten. Sie können beispielsweise zu falschen Verhaftungen oder Fakenews führen. An diesen Ergebnissen ist meist kein umtriebener Entwickler schuld. Vielmehr können sich ethische Probleme unbeabsichtigt an verschiedenen Schritten im Entwicklungsprozess einschleichen. Trotzdem sollten Entwickler ethische Grundsätze kennen, um solche Fehler schon bei der Entstehung zu vermeiden.

In diesem Artikel zeigen wir Schritt für Schritt, wie Entwickler KI-Systeme anhand von ethischen Richtlinien programmieren können. Dabei gehen wir detailliert auf fünf Abschnitte im Entwicklungsprozess ein: Planung, Datensatzauswahl, Modellauswahl, Fairness-Evaluation und Mensch-Maschine-Interaktion. Bei der Planung macht man sich vor allem darum Gedanken, welche Probleme auftreten können und wie sich die KI missbrauchen lässt. Für den passenden Datensatz ist es wichtig, problematische Daten zu erkennen und Urheberrechte zu beachten. Beim Modell kommt es darauf an, wie nachvollziehbar es für Menschen entscheidet. Während der Fairness-Evaluation prüft man, wie fair die KI entscheidet. Schließlich beobachtet man noch, wie Menschen mit der KI umgehen und welche ethischen Probleme dabei auftreten können.

Das war die Leseprobe unseres heise-Plus-Artikels "Ethische KI: Ein Leitfaden für verantwortungsvolle KI-Entwicklung​". Mit einem heise-Plus-Abo können sie den ganzen Artikel lesen und anhören.