Bitkom AI Summit: Wie Bosch mit KI bereits große Geldsummen spart

Bosch verwendet generative Künstliche Intelligenz (KI) auf Basis zahlreicher Standardmodelle wie GPT von OpenAI und LLaMA von Meta, um möglichst das gesamte interne Fachwissen über natürliche Sprache zu erschließen. Dies erklärt Andreas Nauerz, Abteilungsleiter bei Boschs Digitalsparte, auf dem AI Summit des IT-Verbands Bitkom in Berlin. Dabei gehe es etwa darum, Informationen aus Handbüchern und Online-Ressourcen einfacher zugänglich und ständig abrufbar zu machen. Bei den gängigen großen Sprachmodellen stieß Bosch Nauerz zufolge aber auch rasch an Grenzen: Diese könnten vor allem mit technischen Fachbegriffen nichts anfangen. Zudem gelte es, das geistige Eigentum und die digitale Souveränität des Unternehmens zu sichern. Bosch baue daher auch auf eine Kooperation mit dem deutschen KI-Start-up Aleph Alpha, an dem der Konzern auch finanziell beteiligt ist.

Generell habe Bosch binnen weniger Monate gut 160 Nutzungsszenarien für generative KI (GenAI) identifiziert, führt Nauerz aus. Im Kern gehe es um die Bereiche Suche und Zusammenfassung, Bot-Technologie, Inhaltserstellung und Softwareentwicklung. Ziel sei, Effizienz, Qualität und Nutzerfreundlichkeit zu erhöhen sowie "die Zahlen in Form zu bringen". Eines der dafür entwickelten Instrumente ist der interne Chatbot AskBosch. Dieser unterstützt etwa auch die internen Rechtsexperten, indem er Daten aus tausenden Dokumenten auswertet. Das Feedback der Mitarbeiter verbessere wiederum die Sprachassistenten. AskBosch komme mittlerweile auf 70.000 Nutzer und spare allein im Kundenservice rund eine Million Anrufe pro Monat, was die Ausgaben um etwa 84 Millionen Euro pro Jahr senken soll.

Bosch arbeitet in diesem Sektor unter anderem mit Microsoft (Copilot), AWS und Google zusammen. Dazu kämen Spezialanwendungen wie Synthesia für KI-generierte Präsentation mit Avataren, HeyGen für Übersetzungen etwa von Trainingsvideos oder Adobe Firefly für die Bilderstellung. Mit Blick auf den Return on Investment (ROI) könne der Konzern aber "nicht unendlich viele Werkzeuge ausprobieren". Stark genutzt werde neben AskBosch der GitHub Copilot fürs Programmieren. 6000 der rund 50.000 eigenen Entwickler verwendeten diesen Bot bereits und hätten mit dessen Hilfe vier Millionen Zeilen Code generiert. 30 Prozent der Vorschläge würden direkt akzeptiert. Das komme einer Zeiteinsparung von 20 Prozent pro Programmierer gleich, was sich wiederum mit 37,5 Millionen Euro weniger Kosten pro Jahr niederschlage.

PhariaAI als Betriebssystem für Bosch-KI

Darüber hinaus wolle Bosch mit GenAI aber "auch die Wettbewerbsfähigkeit unserer Produkte steigern" und neue Geschäftspotenziale erschließen, hob Nauerz hervor. Dafür seien die Standardmodelle nicht so gut. Theoretisch müssten diese dafür Spezialbegriffe verstehen, die aber nicht in den Trainingsdaten auftauchen. Ferner ließen sich die gängigen großen Sprachmodelle schwer auf kleinen Endgeräten implementieren. Experimente hätten gezeigt, dass ein Bot bei der nicht ganz untypischen Fehleranzeige "Error 530" in einer E-Bike-Batterie etwa den Griff zu einem Schraubenzieher einer gewissen Marke und zum Tragen "sauberer Kleidung" geraten habe. Dabei müsste man hier schlicht das E-Bike aus- und wieder einschalten. Ein Bildgenerator sei beim Versuch, einen Bohrer darzustellen, zudem schon am Firmennamen und Logo gescheitert.

"Das einzigartige Wissen von Bosch ist für jeden einzelnen Schritt zur Nutzung von GenAI von entscheidender Bedeutung", setzt Aleph-Alpha-Gründer Jonas Andrulis hier an. Dieses in ein großes Sprachmodell einzubringen, funktioniere nicht. Zudem bestehe hier auch die Gefahr, dass "GPT 17" plötzlich ganz neues Insiderwissen von Bosch allen Nutzern weltweit zur Verfügung stelle. "Man kann durch das Mischen von Modellen Verbesserungen schaffen", erläuterte Andrulis. Über zehn Prozent der Daten des Partners seien damit aber noch immer nicht lesbar. Schon eine geänderte Reihenfolge in einer Frage-Antwort-Liste sorge für Verschlechterungen von bis zu 30 Prozent.

Nötig ist Andrulis zufolge eine Technologie, "die mit Menschen funktioniert", dessen Kontrolle erhalte und zugleich das Expertenwissen in dem KI-System halte. Aleph Alpha habe ein solches Verfahren mit PhariaAI jüngst vorgestellt, das eine Art Betriebssystem für GenAI bilden soll. Bei Bosch setze man dafür unter anderem auf das eigene Sprachmodell Pharia-1-LLM als Basis. Klar sei, "kein Allzweckmodell wird so smart sein wie die Experten von Bosch." PhariaAI habe in einem Test aber deutlich besser als die Konkurrenz bei der Aufgabe abgeschnitten, der speziellen GenAI Deutsch beizubringen. So lasse sich das Know-how von Bosch nun besser "in der Logik der Anwendung einfangen", ohne dass dieses nach außen dringe.

(mki)