Bin ich hier das Arschloch? KI zeigt spielerisch Vorurteile

"Bin ich jetzt hier das Arschloch?": Wer sein Verhalten und seine Kommunikation von Zeit zu Zeit ein wenig reflektiert, kann schon mal bei dieser Frage angelangen. Und die Antwort darauf kann, so unangenehm und schwer einzugestehen das ist, bei ehrlicher Beantwortung wohl auch schon mal "Ja" lauten. Doch nicht immer liegen die Dinge völlig klar.

Ein Beispiel? Im Subreddit r/AmItheAsshol stellt eine Frau eine pikante Frage: Verkürzt dargestellt fragt sie sich, und damit die Community, ob sie ein Arschloch ist, weil sie nicht möchte, dass der Sohn ihres Verlobten auf ihrer Hochzeit eine Power-Point-Präsentation über seine verstorbene Mutter zeigt. Arschloch-Verhalten oder nicht? 15.500 Votings und 2400 Kommentare zieht diese Frage nach sich. Eine andere Frage beschäftigt sich damit, ob man ein Arschloch sei, das Essen der eigenen Mutter zu verschmähen. Oder wie hoch der A-Faktor ist, wenn man ein Tattoo behalten möchte in dem Wissen, dass der Verlobte es nicht ausstehen kann.

WTF

Das Internet ist voll von heißen IT-News und abgestandenem Pr0n. Dazwischen finden sich auch immer wieder Perlen, die zu schade sind für /dev/null.

• Mehr WTF-Meldungen

Arschloch-KI nutzt Einträge aus Subreddit

Manche der Themen kann man banal, viele egal finden. Dennoch, oder vielleicht gerade deshalb, ist das Subreddit mit vier Millionen Nutzern sehr beliebt. Dabei ist es auch eine Art spezielles Hilfeforum. Ein Hilfeforum mit besonders meinungsstarken und teilweise sehr widerstreitenden Antworten. Die Künstler Morry Kolman and Alex Petros haben die Antworten aus dem Forum jetzt genutzt, um ein voreingenommenes KI-Modell zu erstellen. Zuerst hatte die Nachrichtenseite Motherboard darüber berichtet.

Die Idee des Subreddits ist, grob zusammengefasst, also die folgende: Nutzer können die Community danach befragen, ob sie sich nach Meinung der anderen in bestimmten Situationen wie ein Arschloch verhalten haben oder eben nicht. Die Antworten können gewichtet werden und es gibt eine Art Abstimmungssystem. So wird eine Antwort auf die gestellte Frage generiert.

Das Prinzip des darauf aufbauenden KI-Modells der beiden Künstler sieht nun wie folgt aus: Kolman und Petros haben die Antworten aus dem Subreddit entlang der Kategorien – Arschloch, kein Arschloch oder Alle sind doof (Everyone Sucks Here) – sortiert und das Training für ihr Machine-Learning-Modell daraus erstellt. Das besteht dabei aus drei eigenständigen KI-Modellen, wie die Künstler auf der Startseite von Areyoutheasshole schreiben. Eine sei konstant darauf trainiert, das Verhalten als Arschloch-Verhalten zu deklarieren, eine arbeitet auf eine Art moralischen "Freispruch" hin und die dritte arbeitet mit ungefilterten Daten. Dem Bericht von Motherboard zufolge wurden die Modelle mit rund 100.000 Einträgen trainiert.

Fall schildern und die Arschloch-KI entscheidet

Zum Ziel erklärt Kolman auf Twitter, man wolle "Benutzer auf unterhaltsame und interaktive Weise über die Auswirkungen von voreingenommenen Daten auf die Entscheidungsfähigkeit künstlicher Intelligenz" aufklären.

Nutzer, die der Frage nach ihrer eigenen Arschlochhaftigkeit nachspüren und den Dienst Areyoutheasshole testen wollen, können ein beliebiges moralisches Dilemma als Frage stellen und erhalten dann eine zustimmende, eine ablehnende oder eine neutrale Antwort. Der Test ist grundsätzlich kostenlos, es wird allerdings eine Spende über zwei Dollar erbeten, um für die Gemeinschaft weitere "Tests" freizuschalten. Mit Areyoutheasshole verfolgen die Künstler zwei Dinge: Sie werfen ein Licht auf die mögliche Voreingenommenheit von KI-Systemen, zeigen aber auch mit dem Finger auf die teils extreme Debattenkultur im Internet.

(tkn)