TÜV Nord entwickelt Prüfmethoden für KI und LLMs

Mit mehr als 14.000 Mitarbeitern an über 500 Standorten ist die Tüv Nord Group in etwa 100 Ländern aktiv. Auf der Jahres-Pressekonferenz hat die Gruppe neben Zahlen auch Pläne für die Prüfung von großen Sprachmodellen (Large Language Models, LLMs) und weiteren KI-Anwendungen vorgestellt. Man wolle Vorreiter von Prüfmethoden sein, um den Einsatz künstlicher Intelligenz zum Wohle aller Nutzerinnen und Nutzer sicher zu gestalten, erklärte der Vorstandsvorsitzende Dirk Stenkamp am Mittwoch in Hannover.

Solche Prüfkriterien sieht der europäische AI Act vor, allerdings ist die konkrete Ausgestaltung noch in Arbeit. KI-Systeme mit bestimmten Risikofaktoren müssen laut dem Gesetz einen Prüf- beziehungsweise Zertifizierungsprozess durchlaufen. Zu solchen Risikofaktoren gehört etwa, ob ein KI-System einseitig trainiert wurde und das bei bestimmten Anwendungen problematisch sein könnte. KI-Anwendungen sollten auch möglichst nicht zweckentfremdet werden können – dazu gehören Möglichkeiten, die Schranken eines LLMs zu umgehen. Zudem sollte ein KI-System nicht angreifbar sein.

All diese Probleme sind freilich nicht mit einer Prüfmethode aus der Welt zu schaffen. Es gibt bisher keine Methoden, etwa Prompt Injections zu verhindern, bei denen die eingebauten Schranken von KI-Modellen mit eigenen Instruktionen umgangen werden. Es können aber Abstufungen in den einzelnen Bereichen gemacht werden und je nachdem Einsatzgebiete gefunden oder ausgeschlossen werden.

KI: Hype mit Use Cases

Allerdings gibt Stenkamp auch zu bedenken, dass KI aktuell ein "Marketinghype" sei, der so nicht bestehen bleiben werde. Es werde sich zeigen, welche "Use Cases" es gibt und was der echte Markt sein wird. KI bleibe freilich ein wichtiges Thema. Der Tüv Nord selbst hat seine gesamte KI-Expertise in einem Tüv AI Lab in Berlin gebündelt. "Mit dem 2023 gestarteten Tüv AI Lab in Berlin treiben wir die Entwicklung von Methoden und Standards für die Prüfung insbesondere sicherheitskritischer KI-Anwendungen weiter voran", sagt der Tüv-Nord-Chef.

Auch der Tüv Nord hat KI bereits im Einsatz: Dazu zählen ein Chatbot sowie eine Sensordaten-Plattform. Außerdem werden Windkraftanlagen beispielsweise bereits mittels KI-basierter Bildanalyse untersucht. Der Tüv Nord hat ein GPT für alle Mitarbeiter entwickelt. Alle eigenen Apps dienten der Unterstützung der Mitarbeiter, man hofft auf eine Entbürokratisierung dank KI – etwa durch wegfallenden Papierkram.

Ins Portfolio des Tüv Nord gehört auch die Beteiligung an 3spin Learning – ein Unternehmen, das Software für immersive Lernerlebnisse schafft. Mittels Augmented Reality lassen sich Reparaturarbeiten an einem Windrad lernen, man kann dabei auch gleich ein bisschen seine Höhentauglichkeit testen. Solche Anwendungen sind in der Entwicklung allerdings bisher enorm teuer gewesen, gemeinsam arbeiten die Unternehmen an neuen Möglichkeiten, den Entwicklungsprozess zu verkürzen und zu vergünstigen.

LLMs können in künftigen Lernszenarien dabei helfen, Softskills zu trainieren. Ein Chatbot kann etwa einen renitenten Flugpassagier oder einen unglücklichen Anrufer simulieren.

Auch im Bereich Energiewende arbeitet der Tüv Nord eng mit der Wirtschaft und Politik zusammen. Künftig kann man beim Tüv die Batterie eines E-Autos checken lassen, im Fokus steht der Gebrauchtwagenmarkt für E-Autos. Es gibt ein Zertifizierungsangebot für nachhaltige Rohstoffe sowie ein Siegel, das bestätigt, dass Produkte für den Einsatz von Wasserstoffanwendungen geeignet sind.

(emw)