Künstliche Intelligenz: Wo man das eigene generative Sprachmodell betreiben kann

Hosting-Provider haben sich auf den KI-Boom eingestellt und bieten flexible, KI-optimierte Server – vor allem in der Cloud.

Artikel verschenken

3

(Bild: Moritz Reichartz)

06.10.2023, 06:00 Uhr

Lesezeit: 12 Min.

c't Magazin

Von

Holger Bleich

Künstliche Intelligenz: Wo man das eigene generative Sprachmodell betreiben kann
GPU-Power benötigt
Outsourcing ist angesagt
Teures EU-Hosting

Artikel in c't 23/2023 lesen

Vor wenigen Monaten noch gab es keine Optionen: Wer eine leistungsfähige Sprach-KI nutzen oder integrieren wollte, kam an ChatGPT kaum vorbei. Doch der Zugriff aufs API hat Nachteile. Er kostet Geld und ist beschränkt auf das starre, nach Gusto von OpenAI trainierte und auf Linie gebrachte Large Language Model (LLM) GPT 3.5 oder 4.

Dies hat sich zum Glück geändert: Frei verfügbare, vortrainierte LLMs ermöglichen es Privatleuten und Unternehmen, eine eigene Sprach-KI zu hosten. In diesem Artikel erfahren Sie, wohin Sie solche Installationen auslagern können, wenn die eigenen Ressourcen nicht ausreichen. Flexible und skalierbare Cloud-Instanzen bieten sich besonders an.

Insbesondere kann man damit einem besonderen Problem beim Zugriff aufs OpenAI-API entgehen: der strittigen Datenschutzkonstellation. Reichen nämlich etwa Desktopprogramme oder Webservices Kunden-Prompts via API an ChatGPT weiter, geben sie die Kontrolle über diese oft personenbeziehbaren und bisweilen auch höchst persönlichen Daten aus der eigenen Hand. Deren Verarbeitung findet in der Blackbox OpenAI statt.

Immer mehr Wissen. Das digitale Abo für IT und Technik.

Anleitung: Alte USB-Ports durch USB-C ersetzen

Oft hat man noch Geräte mit Micro-USB oder Mini-USB. Wie man den Port eines solchen Gerätes durch USB-C-ersetzt, zeigen wir in diesem Artikel.

Elektroautos bis 30.000 Euro: Vom Kleinstwagen bis zum Kompakt-SUV

Das Angebot an Elektroautos bis 30.000 Euro wächst langsam, aber stetig. Wir zeigen, welche Modelle im November 2024 tatsächlich verfügbar sind.

Kernfusion als Energiequelle der Zukunft: Zu Besuch im Fusionsreaktor Greifswald

In Greifswald steht eine der weltweit größten Fusionsforschungsanlagen. Wir sprachen mit den Forschern über die Schwierigkeit von Kernfusion als Energiequelle.

Series,Mainframe,In,A,Futuristic,Representation,Of,A,Matrix,Code

Python: Große DataFrames viel schneller bearbeiten dank Polars

Mit Pandas lassen sich große Datenmengen verarbeiten, das aber meist nur langsam. Polars dagegen ist eine extrem schnelle Alternative.

Einstieg in Field Programmable Gate Arrays für Bastler

Field Programmable Gate Arrays (FPGA) sind konfigurierbare integrierte Schaltkreise, mit denen sich per Software digitale Schaltungen realisieren lassen.

Einführung in die Programmiersprache Rust

Rust verbreitet sich seit seiner Einführung 2010 immer weiter und dient längst nicht nur zur Systemprogrammierung. Wir zeigen, was die Sprache so beliebt macht.

Alle Angebote

Newsletter heise-Bot Push Push-Nachrichten

${intro} ${title}