Kubecon Nordamerika: Obligatorische KI und ein neuer TechRadar

Die KubeCon in Salt Lake City kann den momentanen KI-Trend nicht ignorieren. Allerdings hat das Programmkomitee ganze Arbeit geleistet. Anders als bei anderen Veranstaltungen hat das KI-Thema nicht komplett die Agenda übernommen.

Trotzdem gab es KI-Ankündigungen: Da ist zunächst ein neues Projekt Namens Envoy AI Gateway. Es ist noch recht jung und die Entwickler rufen zur Mitarbeit auf. Die Software basiert auf dem Projekt Envoy Gateway, das aus der API-Welt kommt. Im Hintergrund geht es aber darum, dass bestimmte Anwendungen miteinander kommunizieren können. Aus Envoy-Sicht ist KI eine grundlegend neue Applikation, die separate Behandlung verdient. Ein simples Beispiel ist das Implementieren von sogenannten LLM-Routen (LLM - Large Language Model) innerhalb eines solchen Gateways.

Beim Thema API-Gateway gibt es verschiedene Produkte und Projekte, die um die Gunst der Anwender werben. Eines davon ist Gloo aus dem Hause solo.io. Es ist nun ein Projekt unter der Schirmherrschaft der CNCF. CEO und Gründerin Idit Levin vollzog den noch ausstehenden Pull Request auf der Bühne vor Tausenden applaudierenden Zuschauern. solo.io bietet neben dem normalen API-Gateway auch eins mit AI im Namen an, das auf Applikationsentwicklung und Betrieb von Applikation spezialisiert ist. Konkret bedeutet es das Bereitstellen einer singulären API für den Zugriff auf die verschiedenen Dienstleister: OpenAI, Mistral AI oder Gemini.

Zu guter Letzt hat SUSE sein Versprechen vom Sommer eingelöst: SUSE AI ist nun verfügbar, und der Technologie-Stack steht nun fest. Bekannt waren schon SLE Micro, SUSE Rancher Prime RKE2 und Neuvector Prime. Ebenfalls mit dabei ist der Nvidia GPU-Operator zum Verwalten dieser Chips in Kubernetes. Bei den KI-Komponenten gibt es zunächst mit Ollama eine Plattform zur Installation und Verwaltung der LLMs und mit Open WebUI die zugehörige Schnittstelle für Webanwender. Als Vektordatenbank kommt Milvus zum Einsatz.

Und der Preis geht an...

Die Community feierte auch sich und ihre Mitglieder. Da ist zunächst der End User Award, der an Firmen geht, die besonders stark die Entwicklung des Cloud-Native-Ökosystems positiv beeinflusst haben. Dieses Jahr ging dieser Preis an Adobe. Mitarbeiter der Firma sind aktiv in der Entwicklung von CNCF-Projekten beteiligt. Dazu gehören unter anderem Kubernetes, Open Telemetry oder Envoy. In Summe sind es 46 Projekte.

Bei den Community-Awards hat den Top-Committer-Preis dieses Jahr Joe Stringer für seine Beiträge zum Linux-Kernel, zu eBPF und CNCF-Projekte erhalten. In der dieses Jahr neu eingeführten Kategorie Lifetime Achievement ging der Award an Tim Hockin, einen der Väter von Kubernetes.

Schließlich gibt es endlich einen neuen Technologie-Radar der CNCF. Die letzte dokumentierte Version ist drei Jahre alt. Die CNCF befragte im dritten Quartal diesen Jahres 300 ausgewählte Entwickler und kommt unter anderem zu dem Ergebnis, dass Firmen sich ArgoCD und Cilium für den Bereich Multi-Cluster-Verwaltung anschauen sollten. In der Tech-Radar-Sprache fallen sie damit in die Kategorie "Adopt": Sie weisen einen Reife- und Verbreitungsgrad auf, der das Risiko für neue User minimiert. Im Bereich Compute für KI und Co. gibt es gleich vier Empfehlungen: Apache Airflow, CubeFS, Kubeflow und Fluid.

(rme)