Was denkt sie sich bloß?
Ob Banken oder Personalabteilungen – immer häufiger nutzen Unternehmen KI als Entscheidungshilfe. Damit Menschen ihr nicht ausgeliefert sind, wollen Forscher den Maschinen beibringen, sich zu erklären.
Es muss ein Problem geben, wenn Menschen eine Technologie erfinden – und Wissenschaftler dann fordern, erst einmal zu erforschen, wie sie eigentlich funktioniert. Genau dazu hat ein Autorenkollektiv mit namhaften Forschern wie Alex Pentland oder Cynthia Breazeal im April im Fachmagazin „Nature“ aufgerufen. Es brauche eine neue Disziplin namens Maschinen-Verhaltensforschung. Künstliche Intelligenz agiere oft so rätselhaft, dass sie künftig hinsichtlich Funktion, Mechanismen, Entwicklung und Evolutionsgeschichte erforscht werden sollte – in Anlehnung an die Arbeiten des berühmten Verhaltensforschers Niko Tinbergen. Filterblasen in sozialen Medien ebenso wie Flash Crashes an Börsen sind für die Autoren ein Zeichen, dass das Zusammenspiel von Algorithmen unvorhersehbare maschinelle Handlungen hervorbringt. „Das Verhalten und die Eigenschaften von KI-Agenten – und ihre Auswirkungen auf menschliche Systeme – zu verstehen, ist von entscheidender Bedeutung“, schreiben sie.