Neue KI-Modelle in der Amazon-Cloud
AWS legt bei seiner KI-Plattform Bedrock nach. Der Dienst kommt mit neuen Modellen für unterschiedliche Anwendungsfälle und überarbeiteter Prompt-Verarbeitung.
(Bild: Daniel AJ Sokolov)
- Cornelius May
Auf seiner jährlichen Hausmesse re:Invent hat Amazon Web Services (AWS) Erweiterungen seiner Managed-Service-Plattform Amazon Bedrock vorgestellt. Die Neuerungen umfassen den Amazon Bedrock Marketplace mit neuen KI-Modellen und überarbeitete Routing- und Caching-Funktionen für eine automatische Auswahl des genutzten Modells. Ebenfalls erweitert das Unternehmen die Optionen zum Zugriff auf strukturierte Daten und ergänzt Wissensgraphen sowie automatisierte Datenaufbereitungen.
Mit dem Amazon Bedrock Marketplace erweitert AWS die Auswahl an Foundation-Modellen. Kunden erhalten darüber Zugang zu über 100 Modellen, die auf unterschiedliche Nutzungsszenarien zugeschnitten sind. So können Nutzer etwa Quellcode oder Videos mit KI-Unterstützung generieren. Luma AI stellte dazu auf der Messe das neue KI-Modell Ray 2 vor, das im Portfolio des Marktplatzes enthalten sein soll. Mit ihm lassen sich aus Textprompts fünf- bis zehnsekündige Clips im Stil eines Kinofilms erstellen. Bereits zuvor hatte AWS zudem die eigenen Nova-Modelle angekündigt, die ebenfalls Texte, Bilder und Videos verarbeiten und generieren können und Prompts auf unterschiedliche Modelle aufteilen.
Bedrock wählt automatisch günstige KI-Modelle aus
Weiterhin führt AWS neue Mechanismen beim Umgang mit Inferenzanfragen ein, also beim Ausführung von KI-Algorithmen. Mit Prompt Caching lassen sich wiederholt genutzte Prompts zwischenspeichern; das Intelligent Prompt Routing wählt je nach Komplexität der Anfrage verschiedene Modelle innerhalb einer Modellfamilie automatisch aus. Kostengünstige, kleinere Modelle bearbeiten einfache Fragen, während anspruchsvollere Anfragen an leistungsstärkere Modelle gehen. Dieser automatisierte Ansatz soll Kunden bis zu 30 Prozent der Kosten sparen, ohne Kompromisse bei der Antwortqualität einzugehen.
Ebenfalls überarbeiten die Entwickler den Zugriff auf strukturierte Datenquellen, sodass nun Anfragen in natürlicher Sprache automatisch in SQL-Queries übersetzt werden. Laut AWS erleichtert das die Integration von Daten aus Data Warehouses, Data Lakes oder Tools wie Amazon SageMaker Lakehouse. Zudem erweitert das Unternehmen Bedrock um GraphRAG-Unterstützung. Mit ihr fließt Wissen aus Wissensgraphen in die Antwortgenerierung. So soll die KI Beziehungen zwischen Datenpunkten klarer erkennen und genauere sowie besser nachvollziehbare Ergebnisse liefern können.
Videos by heise
Automatische Datenumwandlung ohne manuelles Coding
Mit Amazon Bedrock Data Automation lassen sich jetzt unstrukturierte, multimodale Inhalte ohne manuelles Coding automatisch in strukturierte Formate umwandeln. Das Tool extrahiert systematisch relevante Informationen aus Texten und Bildern, transformiert sie und integriert sie in vorhandene Datenbestände. Dies soll analytische Auswertungen und Workflows der Retrieval-Augmented-Generation vereinfachen. RAG-Anwendungen greifen nicht nur auf die Trainingsdaten der KI, sondern auch auf externe Informationsquellen wie das Internet zurück.
Der Amazon Bedrock Marketplace ist ab sofort verfügbar. Die übrigen Neuerungen können Kunden zunächst im Rahmen einer Preview testen.
(sfe)
