So geht's: Die eigene Sprach-KI | c't 3003

Wie baut man sich eigentlich einen eigenen Chatbot? Das haben wir Tobias Lauterbach vom Postillon gefragt – und zusammen mit ihm SwagGPT zusammengebastelt, einen KI-Chatbot, der wie ein Rapper antwortet. Möglich macht's die API-Schnittstelle von OpenAI.

Transkript des Videos

(Hinweis: Dieses Transkript ist für Menschen gedacht, die das Video oben nicht schauen können oder wollen. Der Text gibt nicht alle Informationen der Bildspur wieder.)

Guckt mal hier, das ist DeppGPT von der Satire-Website Der Postillon. In diesem Video zeigt mir der Entwickler von DeppGPT, Tobias Lauterbach, wie man so einen eigenen, individuellen (in dem Fall hier sehr unfreundlichen) Chatbot selbst baut und auf der eigenen Website integriert. Wir fangen wirklich bei an und ihr könnt mitverfolgen, wie ich hoffentlich zu einem Ergebnis komme, nämlich zu SwagGPT, einem Chatbot, der spricht wie, ja, Deutschrap – und ich hab’ wirklich wenig bis keine Erfahrung in Webentwicklung. Das wird sicher ganz interessant. Bleibt dran.

Liebe Hackerinnen, liebe Internetsurfer, herzlich willkommen hier bei...

[Interview und Entwicklungs-Session mit Tobias Lauterbach: Da sich der Dialog stark auf das bezieht, was auf dem Bildschirm zu sehen ist, ergibt ein Transkript ohne Bilder hier keinen Sinn.]

Ja, da hab’ ich doch jetzt wirklich was gelernt. Ihr könnt unseren SwagGPT-Bot (und eventuell auch andere) übrigens auch selbst ausprobieren, Link ist in der Beschreibung. Dort findet ihr auch den Quelltext – aber Disclaimer: Das ist kein schöner Code, das ist einfach ein Experiment.

Und ich weiß, ihr wünscht euch noch ein Video zu einem Chatbot, der wirklich mit ganz viel eigenem Material feingetuned ist, also zum Beispiel mit allen jemals erschienenen c't-Magazinen. Ich habe schon mit PrivateGPT herumexperimentiert, die Software soll das können, aber mit katastrophalen Ergebnissen. Also wir bleiben da auf jeden Fall dran, aber das dauert halt noch ein wenig.

Die Technik, die wir in diesem Video zeigen, also die Nutzung von GPT3.5 über die API, könnt ihr aber auch zumindest begrenzt dafür nutzen, individuelle Informationen zu füttern. Ich habe das mal mit KenosRestaurantGPT ausprobiert, da habe ich im Systemprompt geschrieben, was die Öffnungszeiten sind, dass man nicht reservieren kann, was das Tagesgericht ist und wo man die Speisekarte findet. Das funktionierte problemlos, ich kann dann also fragen, "habt ihr dienstags um 17 Uhr geöffnet?" und dann antwortet der Chatbot korrekt. Welchen Nutzen so etwas in der Praxis hat, tja, das weiß ich nicht – aber zumindest geht das. Wie Tobias aber schon vorher erklärt hat, ihr müsst immer bedenken: Je länger das Systemprompt, desto teurer wird jedes Frage-Antwort-Paar, denn das Systemprompt wird immer mitgeschickt und ihr zahlt dann die entsprechenden Tokens.

Achso, kleiner Hinweis noch: Es gibt einen neuen heise-online-Podcast, der heißt KI-Update und da geht es, habt ihr euch vermutlich gedacht, um KI. Jeder Werktag ab 14 Uhr, Montags bis Donnerstags zwischen 10 und 15 Minuten, freitags als Deep-Dive länger. In der ersten Folge bin ich übrigens auch dabei, da reden wir darüber, wie unser erster Kontakt mit KI-Systemen war und wo das Thema unserer Meinung nach hingeht. Überall, wo es Podcasts gibt, ein Link ist unten in der Beschreibung. Tschüß!

Lesen Sie auch

KI kann sehr schiefgehen: Warnende Stimme im Hause Google

c't 3003 ist der YouTube-Channel von c't. Die Videos auf c’t 3003 sind eigenständige Inhalte und unabhängig von den Artikeln im c’t Magazin. Die Redakteure Jan-Keno Janssen und Lukas Rumpler sowie die Video-Producer Şahin Erengil und Pascal Schewe veröffentlichen jede Woche ein Video.

(jkj)