KI: So beeinflussen Sprachmodelle unsere Überzeugungen
Immer mehr Menschen befragen große Sprachmodelle wie ChatGPT und Gemini. Experimente zeigen, wie solche KI-Systeme die Meinungen ihrer Nutzer verändern.
- Thomas Brandstetter
Menschen sind soziale Wesen. Um unser Überleben zu sichern, hat die Evolution uns über Millionen von Jahren darauf getrimmt, ständig miteinander im Austausch zu stehen, zusammenzuarbeiten und voneinander zu lernen. Mit den großen Sprachmodellen hat sich der Homo Sapiens nun ein technisches Gegenüber geschaffen. Diese Maschinen sind keineswegs objektive Informationsquellen.
In ihrem Kern auf das Nachahmen menschengemachter Texte trainiert, übernehmen und verstärken sie die in ihren Trainingsdaten vorherrschenden Meinungen und Stereotypen und sind zudem von den Wertvorstellungen ihrer Entwickler beeinflusst. Sie sprechen bereits zu Millionen von Menschen, die aufgrund ihrer Natur gar nicht anders können, als sich von ihnen beeinflussen zu lassen.
- Sprachmodelle schaffen es mittlerweile, menschlich zu wirken, sei es im Rahmen von Onlinedating oder bei der Suche von Wohnung und Job.
- Die Modelle reagieren dabei nicht objektiv. Nach Studien macht es einen Unterschied, ob man das Modell etwa als männlich oder weiblich anspricht.
- Sprachmodelle haben nicht nur Einfluss auf das, was man schreibt, sondern auch auf das, was man denkt.
Wie immer bei großen Innovationen verläuft auch die Ausbreitung der Sprachmodelle profitgetrieben und, was die gesellschaftlichen Auswirkungen betrifft, weitgehend im Blindflug. In einer Verschmelzung von Soziologie, Psychologie und Informatik versuchen Forschende, die Folgen einer breiten Anwendung abzuschätzen. Mittlerweile haben sie erste wissenschaftliche Erkenntnisse gewonnen und fordern mehr Transparenz von den Herstellern und besseren Einblick in die Entwicklung der Systeme.
Das war die Leseprobe unseres heise-Plus-Artikels "KI: So beeinflussen Sprachmodelle unsere Überzeugungen". Mit einem heise-Plus-Abo können Sie den ganzen Artikel lesen.
