Der KI-Freund, der immer mithört | Schlimmer als Recall

Zwei "Friends", zwei Entwickler, ein Streit: c't 3003 erzählt die absurde Geschichte eines absurden KI-Gadgets.

Transkript des Videos

(Hinweis: Dieses Transkript ist für Menschen gedacht, die das Video oben nicht schauen können oder wollen. Der Text gibt nicht alle Informationen der Bildspur wieder.)

Guckt mal hier, dieses Werbe-Video habe ich heute Morgen entdeckt. Und ich hab wirklich gedacht: Oh, ist das ein neuer Horrorfilm? Ist das eine Preview der neuen Black-Mirror-Staffel?

Das kann doch nicht wirklich ein echtes Produkt sein? Nach meiner ausführlichen Recherche stellt sich raus: Doch, ist es. Ein Anhänger, den man an einer Kette um den Hals trägt und der ALLES aufzeichnet, was um einen herum passiert. Und darauf reagiert. Das heißt, wenn mir mein Kaffee umfällt, dann schickt mir dieses Ding 'ne Message: "Ey, Diggi, was da los, magst du keinen Kaffee?” Also eine Wanze, die man freiwillig mit sich rumschleppt und einem fiese Nachrichten schreibt? Ja, aber die Story um den Friend-KI-Anhänger ist noch viel absurder. Inklusive Battle-Raps, noch wahnsinnigeren Videos und komplettem Größenwahn. Bleibt dran.

Liebe Hackerinnen, liebe Internetsurfer, herzlich willkommen hier bei …

Friend: Das ist ein Ketten-Anhänger – ja, Ketten sind ja gerade auch bei Männern stark angesagt – und da drin steckt ein Mikrofon, 'ne Kamera, Bluetooth und ein Akku. Das Teil kann man für 99 Dollar vorbestellen, schneidet alles mit, was zu hören ist, fertigt ein Transkript davon an und schickt das dann an die Cloud-basierte KI Claude 3.5 von Anthropic AI; ja, und die kann dann auf alles reagieren. Ich kann dann also fragen: Was hat meine Freundin vor einer Stunde nochmal gesagt? Und das Ding soll explizit kein Assistent, sondern ein FRIEND, ein FREUND sein – und all das ist jetzt schon hochgradig irritierend, aber wenn ich mir dieses Werbe-Video angucke, dann verstehen die Macher unter "FREUNDEN" offenbar Leute, die einen schlecht fühlen lassen und nicht gut. Hier zum Beispiel verliert der Mann irgendwie beim Gaming; und ist definitiv gerade eh nicht so glücklich damit, gießt der fiese KI-"Freund" noch Öl ins Feuer und schreibt 'ne Message: "Du wirst gerade komplett auseinandergenommen, das ist superpeinlich!" Ja, ich weiß, das soll so "lustiger" Trash-Talk sein, aber ganz ehrlich: Würde ich mich in dieser Situation null drüber freuen.

Aber diese Fiesigkeiten wirklich nur am Rande, das große Problem an dem Ding ist ja ganz klar, dass das einfach immer alles aufzeichnet. Ich erinnere mal dezent daran, dass Microsoft das neulich mit ihrem Recall-Windows-Feature machen wollte und das wurde so hart abgelehnt von der Kundschaft, dass Microsoft das erstmal auf unbestimmte Zeit zurückgezogen hat. Und da ging es nur um Sachen, die auf dem Rechner passieren. Bei Friend geht es um das komplette echte Leben.

Der Macher von dem Friend-Dings heißt Avi Schiffmann, also wie das Videodateiformat, und der hat seinen Kettenanhänger neulich persönlich beim US-Magazin Wired vorgestellt.

Und da beschreibt der Redakteur sehr lustig, wie er Avi da am Anfang des Treffens gefragt hat, ob er das Gespräch mitschneiden darf – weil das nicht nur journalistischer Ehrenkodex ist, sondern halt auch in Kalifornien gesetzlich verpflichtend. Ja, und darüber konnte Avi mit seinem Anhänger nur lachen. Ich mein, sein Produkt bewirbt er damit, dass es permanent mithört, ALWAYS LISTENING, als wäre das was Tolles. Und ja, da könnte man jetzt, wenn man ein kleines bisschen Erfahrung mit echten Menschen hat, darauf kommen, dass die meisten Leute das GARANTIERT doof finden, wenn permanent mitgeschnitten wird, was die sagen oder was die für Geräusche machen. Also jetzt egal, ob am Arbeitsplatz, beim Essen oder im Bett. Also wenn eine Person in meinem Umfeld sowas tragen würde, würde ich sagen: Tu mal bitte das Ding weg, oder ich geh' halt raus. Außerdem jetzt mal ganz persönlich: Wie kaputt mich das machen würde, wenn ich jede Interaktion nachhören und nachlesen könnte, um dann obsessiv danach zu überlegen, ob ich mich irgendwie falsch verhalten habe – also ich bin da sehr froh drüber, dass mein Leben nicht mitgeschnitten wird. Und ja klar, mir fallen vielleicht auch zwei, drei Dinge ein, wo sowas nützlich sein könnte – aber darüber müssen wir gar nicht reden, weil die Grundidee halt einfach schon anderen Menschen gegenüber komplett rücksichtslos ist. Und von der eingebauten Kamera will ich gar nicht erst anfangen.

So, das war jetzt alles schon absurd genug, aber es geht noch weiter. So hat besagter Avi Schiffmann für seinen Friend-Anhänger 2,5 Millionen Dollar von Investoren eingesammelt.

Von diesem Geld hat er nach eigenen Angaben 1,8 Millionen nur für die Domain friend.com ausgegeben. Und viele spotten jetzt natürlich, dass diese Domain das einzige Wertige ist, was von diesem Projekt übrig bleiben wird – auf der anderen Seite ist die Nachricht "Gründer gibt zwei Drittel des Investorengelds nur für eine Internetdomain aus" natürlich eine Super-Story, die halt für PR sorgt, genauso wie die gruselige Werbung. Also hat bei mir ja auch funktioniert, dass ich darüber jetzt ein Video mache.

Aber es geht ja auch noch weiter. Denn es gibt schon seit mindestens April 2024 ein Open-Source-Projekt namens Friend. Macht das Gleiche, funktioniert auch mit so einem Kettenanhänger, schickt die Sachen an eine Cloud-KI – und man kann das Devkit davon sogar schon seit Längerem bestellen.

So, und der Initiator dieses Open-Source-Friend-Projekts, der übrigens von Peter Thiel ein Stipendium bekommen hat, der ist natürlich jetzt ziemlich sauer.

Und was macht man, wenn man sauer ist? Ja klar, Battle-Rap, also einen Disstrack veröffentlichen.

Und wenn ihr jetzt irritiert mit dem Kopf schüttelt, dann sag ich euch, das geht noch weiter. Denn: Avi Schiffmann, also der von dem Closed-Source-Friend, hat dann ein Video von dem Open-Source-Friend-Macher gefunden, das heißt "Ich habe versucht, Crackheads eine Friend-Kette zu verkaufen".

Und ja, das passiert dann da auch im Video, keine Ahnung, ob das echt oder gestellt ist, es ist auf jeden Fall komplett unlustig und menschenverachtend. Ja, und dann hat noch jemand einen Disstrack gegen beide, also gegen Closed-Source-Friend und Open-Source-Friend-Macher veröffentlicht. Und ja, dann dachte ich mir, genug Internet für heute; ich geh jetzt mal 'ne Limo mit einem echten Menschen trinken.

Es ist mir übrigens klar, dass sich viele Leute einsam fühlen und deshalb gerne so einen KI-Freund oder eine Freundin hätten. Laut der Berkeley-Bioethik-Professorin Jodi Halpern würden in den USA 61 Prozent der Jugendlichen und jungen Erwachsenen an Einsamkeit leiden, sie spricht da sogar von einer Einsamkeitskrise. Ja, und sowas wie dieser Friend-Anhänger, das kann kurzfristig die Einsamkeit lindern, aber eben nur kurzfristig – langfristig brauchen Menschen echte menschliche Beziehungen.

Was meint ihr dazu? Gerne in die Kommentare schreiben. Und tschüss, sagt euer Freund Keno.

---

c't 3003 ist der YouTube-Channel von c't. Die Videos auf c’t 3003 sind eigenständige Inhalte und unabhängig von den Artikeln im c’t Magazin. Die Redakteure Jan-Keno Janssen und Lukas Rumpler sowie die Video-Producer Şahin Erengil und Pascal Schewe veröffentlichen jede Woche ein Video.

(jkj)