Generative AI in Go: Google bringt neue Genkit-Version heraus

Google hat eine neue Variante seines Generative-AI-Frameworks Genkit vorgestellt. Es ergänzt Bibliotheken und Plug-ins für KI-Anwendungen in der Programmiersprache Go, bietet Tools für die Integration in bestehende Projekte und unterstützt den OpenTelemetry-Standard für Observability jenseits der Google Cloud.

Genkit: Werkzeuge für die Entwicklung KI-gestützter Anwendungen

Mit Genkit konzentriert sich Google auf die lokale Entwicklung von KI-Applikationen. Das Framework bietet Tools für das Prompt-Engineering, für das Überwachen der Ausgaben von Vektorspeichern oder auch für die Bereitstellung von Modellen und Workflows in Test- oder Produktionsumgebungen.

"Nicht jeder wird dank KI auch programmieren können", sagte Jeanine Banks, VP und General Manager für Entwickler bei Google – und das gilt auch weiterhin. Wer jedoch programmieren kann, soll für KI-Anwendungen nach und nach bessere Tools erhalten. JavaScript- und TypeScript-Developer können Genkit bereits seit einem guten halben Jahr nutzen, als Google das Framework auf seiner hauseigenen Entwicklerkonferenz Google I/O noch als Beta vorstellte.

Genkit for Go befasst sich nun auch mit der KI-Entwicklung im Go-Ökosystem. Zunächst noch als Alpha eingestuft, empfiehlt Google die Version für das Prototyping skalierbarer KI-Anwendungen. Als Anwendungsfälle nennt das Unternehmen unter anderem:

• intelligente Assistenten, die komplexe Anfragen verstehen und autonom Aufgaben wie Reisebuchungen oder das Erstellen von Reiserouten ausführen
• Kundensupport-Agenten, die durch Retrieval-augmented Generation (RAG) schnelle und personalisierte Antworten basierend auf Unternehmensdaten liefern
• Datenumwandlungswerkzeuge, die unstrukturierte Daten wie natürliche Sprache in strukturierte Formate für tiefere Analysen und Erkenntnisse umwandeln

Fokus auf Go-Konventionen erleichtern den Einstieg

Go-Entwicklerinnen und -Entwickler sollen sich gut in das neue Framework einfinden können. Dazu hat Google Genkit-Bibliotheken ebenfalls komplett in Go umgesetzt. Es stellt eine vereinheitlichte API zur Verfügung, über die Anwender Inhalte aus verschiedenen Modellen (wie Gemini, Gemma oder Drittanbieter-Modelle) konsistent erzeugen können sollen. Zudem können sie mit Genkit verschiedene Anbieter von Vektordatenbanken nutzen, ebenso wie Mechanismen für mehrstufige Workflows (in Genkit "Flow" genannt), die über HTTP-Endpunkte eine bequeme Überwachung und Fehlerbehebung ermöglichen.

Google legt Wert darauf, dass Anwender das Genkit-Framework anbieterunabhängig nutzen können und legt dem Paket eine Reihe von Plug-ins bei, unter anderem:

• Google AI for Developers für den Zugriff auf Googles generative KI-APIs, einschließlich der Gemini- und Embedding-Modelle
• Google Cloud Vertex AI für den Zugriff auf die Gemini- und Embedding-Modelle aus Googles Cloud-Vertex-AI-Plattform heraus
• Ollama für den Zugriff auf und den lokalen Betrieb von Open-Source-Modellen wie Gemma, Llama und Mistral über Ollama
• Pinecone für einen Zugriff auf die Pinecone-Vektordatenbank für Indexierungs- und Abrufvorgänge für KI-Anwendungen
• Google Cloud Telemetry für den Export von Logs, Metriken und Traces KI-gestützter Anwendungen an die Google Cloud Operations Suite (Cloud Logging, Cloud Tracing und Firestore)

Interessierten Developern gibt Google eine Schnellstartanleitung für Genkit for Go an die Hand. Googles webbasierte Entwicklungsumgebung Project IDX bietet für erste Gehversuche ebenfalls ein Genkit-Template, wahlweise für Go oder JavaScript.

Genkit für Go befindet sich derzeit in der Alpha-Phase und eignet sich daher eher für Experimente und Prototyping. Entwicklerinnen und Entwickler sind eingeladen, ihre Projekte und ihr Feedback mit dem Genkit-Team zu teilen, um die Weiterentwicklung des Frameworks zu unterstützen.

(mai)