c't 23/2023
S. 28
Titel
Die eigene Sprach-KI: Hosten
Bild: Moritz Reichartz

KI-Heimstätten

Wo man das eigene generative Sprachmodell betreiben kann

Large Language Models benötigen Rechenpower satt, die man nicht unter dem Schreibtisch stehen hat. Hosting-Provider haben sich auf den KI-Boom eingestellt und bieten flexible, KI-optimierte Server – vor allem in der Cloud.

Von Holger Bleich

Vor wenigen Monaten noch gab es keine Optionen: Wer eine leistungsfähige Sprach-KI nutzen oder integrieren wollte, kam an ChatGPT kaum vorbei. Doch der Zugriff aufs API hat Nachteile. Er kostet Geld und ist beschränkt auf das Large Language Model (LLM) GPT 3.5 oder 4.

Dies hat sich zum Glück geändert: Frei verfügbare, vortrainierte LLMs ermöglichen es Privatleuten und Unternehmen, eine eigene Sprach-KI zu hosten. In diesem Artikel erfahren Sie, wohin Sie solche Installationen auslagern können, wenn die eigenen Ressourcen nicht ausreichen. Flexible und skalierbare Cloud-Instanzen bieten sich besonders an.

Alle heise-Magazine mit heise+ lesen

3,99 € / Woche

Ein Abo, alle Magazine: c't, iX, Mac & i, Make & c't Fotografie

  • Alle heise-Magazine im Browser und als PDF
  • Alle exklusiven heise+ Artikel frei zugänglich
  • heise online mit weniger Werbung lesen
  • Vorteilspreis für Magazin-Abonnenten
Jetzt unbegrenzt weiterlesen Vierwöchentliche Abrechnung.

Alle Ausgaben freischalten

2,95 € 0,25 € / Woche

Nach Testphase 2,95 € wtl.

  • Zugriff auf alle c't-Magazine
  • PDF-Ausgaben zum Herunterladen
  • Zugriff in der c't-App für unterwegs
Jetzt testen Nach Testphase jederzeit monatlich kündbar.

Ausgabe einmalig freischalten

5,90 € / Ausgabe

Diese Ausgabe lesen – ohne Abobindung

  • Sicher einkaufen im heise shop
  • Magazin direkt im Browser lesen
  • Dauerhaft als PDF behalten

Kommentieren