Persönlicher IT-Experte: Beta-Version des heise-Chatbots für heise+ Abonnenten

Die Möglichkeiten generativer Sprachmodelle faszinieren uns nicht erst seit der Veröffentlichung von ChatGPT. Darum haben wir uns schon früh gefragt, wie gut ein mit unseren Inhalten trainierter Chatbot alle möglichen Fragen rund um IT und Technik beantworten könnte.

Damit es nicht bei einem Gedankenspiel bleibt, haben wir mit der Entwicklung eines solchen Chatbots begonnen und stellen die Beta-Version den Abonnentinnen und Abonnenten von heise+ zur Verfügung. Sie können unserem Chatbot in jeder Session eine Frage zu den Themen von heise online oder heise+ stellen, der diese beantwortet, mit weiterführenden Links zu passenden Artikeln auf heise.de versieht und Ihnen Folgefragen vorschlägt. Außerdem können Sie uns mittels 👍 und 👎 mitteilen, ob Sie die Antwort hilfreich fanden. Dieses Feedback ermöglicht uns, die Qualität der Antworten einzuschätzen, fließt aber nicht in das Training des Systems ein.

Die Technik

Wir wollten für das System nicht einfach ChatGPT nutzen, sondern ein Modell verwenden, welches keine Daten in die USA übermittelt und das wir im Zweifel auch selbst betreiben könnten. Für diese Aufgabe haben wir mit Bonkers Media einen Partner gefunden und mit der Entwicklung begonnen. Herausgekommen ist ein RAG-System, das eine Datenbank mit dem Wissen aus über 350.000 heise-Artikeln mit einem Sprachmodell verbindet. Die Wissensdatenbank aktualisiert sich täglich.