Künstliche Intelligenz – ohne Kubernetes und Open Source schwer denkbar

Inhaltsverzeichnis

Wie könnte es anders sein: Natürlich war KI auch auf der diesjährigen Hauskonferenz der Cloud Native Computing Foundation (CNCF) das Thema, allerdings aus der Sicht von Kubernetes. Sehr stolz verkündete CNCF-Chefin Priyanka Sharma, dass sowohl OpenAI als auch Nvidia diese dominierende Containerorchestrierung als Fundament für ihren Dienst benutzen. Tatsächlich präsentierte OpenAI schon vor circa sechs Jahren auf der KubeCon – damals in Berlin.

Priyanka Sharma zeigte mit einer kurzen Demo, dass der technische Reifegrad von Kubernetes und KI-Diensten sehr fortgeschritten ist. Mit wenigen Klicks startete sie ein eigene kleine ChatGPT-ähnliche Instanz. Kuriose Randnotiz: Die Datenbank-Pods wollten anfangs einfach nicht starten und strapazierten die Geduld der Rednerin ein wenig.

Drei Arbeitsaufträge

Offizielles Thema der Konferenz war "Architect Your Future". Dahinter steckt, dass die CNCF mit ihren Projekten auch in Zukunft eine tragende Rolle bei jeglicher IT spielen möchte. Dafür definierte sie drei Arbeitsaufträge an die Benutzer und Entwickler. Da ist zunächst der Aufruf, alle Probleme und Fehler in Kubernetes zu dokumentieren. Besonderes Augenmerk liegt dabei auf der dynamischen Allokierung von Ressourcen. Diese Funktion spielt im KI-Umfeld und der effektiven Nutzung von GPUs eine wichtige Rolle. Außerdem erwartet die CNCF, dass die Cloud-Branchengrößen ebenfalls mitmachen.

Arbeitsauftrag Zwei ruft zur Teilnahme an der sogenannten End User Research Group auf. Dieses Gremium dient zur direkten Interaktion mit den Endanwendern. Die Themen reichen von wichtigen Problemen in bestehenden Funktionen bis hin zu eher strategischen Diskussionen. Nummer Drei ist die Zusammenarbeit mit dem End User TAB (Technical Advisory Board). Hier können die Endanwender direkt mit den zuständigen Projektleitern und Entscheidern reden.

Sparsame Ankündigungen

Üblicherweise benutzten die verschiedenen Firmen im CNCF-Umfeld die KubeCon zur Ankündigung von neuen Produkten oder wenigstens Funktionen. Das war diesmal etwas anders: Die meisten Meldungen drehten sich nur um neue Unterversionen von existierenden Produkten oder die Versicherung, in Zukunft noch stärker und intensiver an einem bestimmten Projekt zu arbeiten.

Ein paar interessante Neuigkeiten gab es aber dennoch: Oracle unterstützt für die nächsten drei Jahre CNCF-Projekte mit jährlich 3 Millionen sogenannten Credits zur Benutzung von Ampere-ARM-basierter Hardware auf OCI (Oracle Cloud Infrastructure). SUSE veröffentlichte Version 2.0 seines Enterprise-Produktes Rancher Prime. Es ist in den Marktplätzen von AWS und Azure verfügbar, beinhaltet vorgefertigte Container-Abbilder als technische Vorschau und hat auch einen KI-basierten Kunden-Assistent.

Beim Thema Kubernetes-Sicherheit lohnt sich ein Blick auf die aktuelle Version von Trivy; Aqua ist der Pate dieses Open-Source-Projektes. Trivy kann nun gezielt nach Schwachstellen in den Kubernetes-Clustern suchen. Die bereits integrierte KBOM (Kubernetes Bill Of Material) kommt dabei ebenfalls zur Anwendung. Das Kubernetes Security Operations Centeraus dem Hause KSOC verfügt nun über sogenannte "cloud native identity threat detection". Einfach gesagt, kann die Software falsche Konfigurationen und Probleme im Benutzer- und Admin-Set-up erkennen. Das reicht von RBAC-Regeln (Role Based Access Control) bis hin zum Identity-and-Access-Management (IAM) aus der Cloud. Laut KSOC haben drei von vier Angriffen auf Kubernetes das Vorhandensein von falschen Zugriffseinstellungen ausgenutzt.

Die CNCF selbst hat ein neues Zertifikat inklusive Trainingsprogramm veröffentlicht: den Istio Certified Associate (ICA). Außerdem hat sich in Japan eine Art Unterorganisation gegründet. Hintergrund ist, dass es dort momentan keine wirkliche Verbindung zu etwaigen Projekten und Entwicklergemeinden gibt – die Cloud Native Community Japan soll das nun ändern.

Ausblick

Mit Verleihung des sogenannten Top End Use Awards schloss die Konferenz. Die Auszeichnung ging diesmal an Spotify.

Die Veranstaltung fand dieses Jahr vom 6. bis 9. November in Chicago statt. Zirka 9000 Teilnehmer waren vor Ort, weitere 4500 online dabei. Rund die Hälfte der Teilnehmer war zum ersten Mal bei einer KubeCon. 2024 startet die CNCF wieder mit der europäischen Variante der KubeCon: Vom 19. bis 22. März ist dann Paris das Zentrum von Kubernetes und Cloud-Nativ.

(fo)