Souveräne KI aus Deutschland
STACKIT und neuland.ai wollen LLMs in europäischen Rechenzentren bereitstellen, um so strenge Compliance-Vorgaben zu erfüllen.
STACKIT, der Cloud-Anbieter der Schwarz Gruppe, und das Kölner KI-Unternehmen neuland.ai wollen gemeinsam eine durchgängig in Deutschland betriebene KI-Architektur etablieren. Dazu kombinieren sie die Cloud-Infrastruktur von STACKIT mit dem neuland.ai HUB, einer KI-Management- und Orchestrierungsplattform. Kunden können darüber verschiedene KI-Modelle über einheitliche Schnittstellen ansprechen, darunter Llama, Mistral, Qwen und große Open-Source-Modelle mit bis zu 120 Milliarden Parametern.
Die KI-Modelle laufen dabei wahlweise „on prem“ auf der Hardware des Nutzers, in der souveränen Cloud von STACKIT auf Rechenzentren in Deutschland oder – falls gewünscht – auch bei US-Hyperscalern, ohne dass das auf Anwendungsseite einen Unterschied macht. neuland.ai verspricht, dass Kundendaten Ende-zu-Ende-verschlüsselt gespeichert sind und das Unternehmen keinen Zugriff darauf hat, sodass sie nicht für Modelltraining verwendet werden können. Der neuland.ai HUB soll zudem im STACKIT Marketplace verfügbar werden.
Das gemeinsame Angebot richtet sich an Unternehmen, die ihre Daten nicht an US-amerikanische Unternehmen wie OpenAI oder Anthropic schicken wollen oder dürfen. Unter dem US Cloud Act können US-amerikanische Behörden auf bei US-Unternehmen gespeicherte Daten zugreifen, selbst wenn diese Daten in Rechenzentren in Europa liegen. Mit dem KI-Angebot von neuland.ai und STACKIT sollen deutsche Unternehmen die regulatorischen Anforderungen aus NIS2, DORA und dem EU AI Act erfüllen können.
(odi)
