Sprachmodelle aus SQL: pgai erweitert PostgreSQL um KI-Funktionen
Die PostgreSQL-Erweiterung pgai verknüpft ohne zusätzliche Middleware Daten und Sprachmodelle in einem System. LLMs lassen sich so aus SQL aufrufen.
- Dr. Fabian Deitelhoff
Große Sprachmodelle (LLMs) verändern interne Workflows und den Umgang mit Daten. Viele Unternehmen experimentieren mit Retrieval Augmented Generation (RAG), semantischer Suche und eingebetteten Wissensdatenbanken.
Dabei ergeben sich technische Herausforderungen in der Datenhaltung, -verarbeitung und -integration. Die meisten LLM-Systeme nutzen spezialisierte Vektordatenbanken zum Speichern von Vektorrepräsentationen von Daten und von Textausschnitten (Chunks). Das führt zu einer Trennung von Anwendungs- und Datenlogik und macht die Implementierung und Wartung komplizierter, zumal etablierte Datenbanken in Unternehmen häufig relational sind.
- pgai ist eine PostgreSQL-Erweiterung, die das Speichern und Abrufen von Daten für Retrieval Augmented Generation (RAG) und andere KI-Anwendungen vereinfacht.
- Sie erstellt und synchronisiert Embeddings automatisch und erlaubt, LLM-Modelle aus SQL aufzurufen.
- Anders als andere Erweiterungen bindet pgai Sprachmodelle direkt ein.
PostgreSQL eignet sich aber gut als Grundlage für viele produktive Systeme, zumal mit pgvector eine Erweiterung zum effektiven Speichern von Vektoren und zur Ähnlichkeitssuche in hochdimensionalen Vektorräumen zur Verfügung steht. Dennoch ist es in vielen Anwendungsszenarien wünschenswert, direkt aus der Datenbank auf LLMs zuzugreifen. Hier setzt pgai an: Es erweitert PostgreSQL um KI-Funktionen, insbesondere rund um LLMs und eingebettete Vektorrepräsentationen, und kombiniert bestehende Konzepte wie Embeddings, RAG und das Generieren von Texten mit SQL-Zugriffen. Die Funktionen lassen sich direkt in Datenbankabfragen integrieren, was die Anzahl externer Komponenten reduziert und den Systemaufbau vereinfacht.
Das war die Leseprobe unseres heise-Plus-Artikels "Sprachmodelle aus SQL: pgai erweitert PostgreSQL um KI-Funktionen". Mit einem heise-Plus-Abo können Sie den ganzen Artikel lesen.
