KI Update Deep Dive: KIDD – Diversität in KI-Systemen
Dass KI Stereotype und Vorurteile reproduziert, ist bekannt. Doch was können Unternehmen dagegen tun, die KI-Systeme einsetzen wollen? Darum geht es bei KIDD.
KIDD steht für Künstliche Intelligenz im Dienste der Diversität. Es ist ein Projekt, das sich mit dem Einsatz von KI-Anwendungen und algorithmischen Entscheidungssystemen (AES) auseinandersetzt, denn das Wiederholen und Bestärken von Stereotypen und Vorteilen, ein Bias und die mögliche Ausgrenzung von Menschen können für Unternehmen schädlich sein.
Im Bereich Recruiting ist das Risiko sogar so hoch, dass der AI Act besondere Pflichten für die Systeme vorschreibt, die sicherstellen sollen, dass niemand aufgrund seines Geschlechts, seiner Herkunft oder anderer Merkmale benachteiligt wird. Doch auch bei allen anderen Aufgaben, bei denen eine KI genutzt wird, kann es zu falschen oder nicht hilfreichen Ergebnissen kommen aufgrund des Bias.
Empfohlener redaktioneller Inhalt
Mit Ihrer Zustimmmung wird hier ein externer Podcast (Podigee GmbH) geladen.
Ich bin damit einverstanden, dass mir externe Inhalte angezeigt werden. Damit können personenbezogene Daten an Drittplattformen (Podigee GmbH) übermittelt werden. Mehr dazu in unserer Datenschutzerklärung.
KIDD möchte Unternehmen und Organisationen einen Prozess an die Hand geben, der die Einführung von KI-Systemen begleitet und dabei einen Fokus auf Diversität hat. Katja Anclam, eine der Projektgründerinnen, erklärt in unserem Deep Dive, wie ein solcher Ablauf gestaltet werden kann. Zunächst werde ein Team gegründet, ein sogenanntes Panel der Vielfalt. Dieses soll schon den frühen Prozess in der Softwareentwicklung beziehungsweise bei der Auswahl einer Software involviert sein und auf die rechtlichen, ethischen und diversitätsbezogenen Aspekte hinweisen.
Anclam erzählt, dass bereits mit dem Einrichten einer Gruppe ganz viel in den Unternehmen und Organisationen passiert. Die Achtsamkeit wächst, es werden fast automatisch weitere Auseinandersetzungen mit dem Thema Diversität angestoßen. Um die bestmöglichen Entscheidungen zu treffen und Maßnahmen einzuleiten, die zwischen dem Panel und der Softwareentwicklung ausgehandelt werden, gibt es einen sogenannten KIDD-Moderator oder eine -Moderatorin sowie einen potenziellen KI-Experten, der technische Sachverhalte erklärt.
Anclam hofft, dass das Projekt seinen Teil zu einem sinnvollen Einsatz von KI auch in der Gesellschaft beitragen kann. "Noch können wir mitgestalten und sollten das auch tun", sagt sie. Das Zeitfenster sei aber begrenzt.
KIDD wird vom Bundesministerium für Arbeit und Soziales unter dem Dach der Initiative Neue Qualität der Arbeit gefördert. Ziel ist ein standardisierter KIDD-Prozess, "mithilfe dessen Unternehmen in die Lage versetzt werden, faire, transparente und verständliche Softwareanwendungen anzuschaffen oder zu entwickeln und einzuführen."
(emw)
