KI Navigator #9: Zwischen Kreativität und Planbarkeit

Inhaltsverzeichnis

Willkommen zur neunten Ausgabe der KI-Navigator-Kolumne der DOAG KI Community!

Kolumne KI-Navigator: Konstantin Hopf

Dr. Konstantin Hopf leitet die Data-Analytics-Forschungsgruppe am Lehrstuhl für Wirtschaftsinformatik, insb. Energieeffiziente Systeme der Universität Bamberg. In industrienahen Forschungsprojekten entwickelt er betriebliche Anwendungen maschineller Lernverfahren. Er erforscht zudem Konzepte für das strategische Management von KI-Initiativen und Data-Science-Teams. Seine Forschungsergebnisse erscheinen in führenden Zeitschriften und Tagungsbänden der Wirtschaftsinformatik, aber auch in der Fach- und Tagespresse.

KI verspricht eine enorme Effizienzsteigerung und Automatisierung durch optimierte Produktionsprozesse, smarte Steuerungen, automatisch generierte Texte und Bilder oder durch persönliche Sprachassistenten, die uns auf Schritt und Tritt begleiten.

Wer sich jedoch eingehend mit der Umsetzung von KI-Initiativen in Unternehmen beschäftigt, trifft auf unterschiedliche, teils konträre Perspektiven. Da ist die Anwender-, Management- und Laiensicht auf die erfolgreichen Showcases sowie die Bewunderung, was Kolleginnen und Kollegen bereits aus diversen KI-Tools herausholen. Vieles scheint sich leicht umsetzen zu lassen: KI kann E-Mails formulieren, Gespräche transkribieren und ansprechende Bilder generieren.

Die Annahme, dass man sein "Unternehmen auf KI umstellen" kann, wie es der Werbespot einer großen Bank jüngst suggeriert hat, erweist sich jedoch als Trugschluss. KI-Modelle und -Anwendungen zu erstellen, ist in der Praxis meist mühevolle Handarbeit. Diese übernehmen meist Data Scientists, Data Engineers oder Machine-Learning-Experten mit langjähriger Ausbildung und interdisziplinärem Hintergrund. In den seltensten Fällen arbeiten sie mit etablierten Vorgehensmodellen und Standardsoftware. Vielmehr sind die Anwendungen von Exploration getrieben. Eine KI-Anwendung zu erstellen, ähnelt mehr einer handwerklichen Tätigkeit als einem mechanistischen Abarbeiten. Zusammen mit einem internationalen Forscherteam habe ich 55 KI-Initiativen in weltweit tätigen Unternehmen untersucht. In der Studie haben wir die Herausforderungen in der Praxis identifiziert und herausgefunden, wodurch sie entstehen. Diese Erkenntnisse erlauben Empfehlungen abzuleiten, wie Unternehmen mit diesen Herausforderungen umgehen können.

Fünf große Herausforderungen für KI-Initiativen in der Praxis

Die überhöhten Erwartungen hinsichtlich der Entwicklung von KI-Anwendungen sind nur eine von fünf zentralen Herausforderungen, die wir in der Studie erkannt haben. Ein weiteres Problem ist, dass viele Unternehmen ihre KI-Projekte wie klassische IT-Projekte behandeln. Dabei benötigen sie eine stärker iterative und explorative Vorgehensweise und müssen mitunter sogar agiler sein als die Softwareentwicklung. Ein zu starrer Projektmanagementansatz oder das reine Befolgen von Guidelines behindert die Innovation und führt zu ineffizienter Ressourcennutzung.

Während agile Arbeitsmethoden helfen, Software schneller an sich verändernde Kundenanforderungen anzupassen und die Nutzer früh in den Entwicklungsprozess einzubinden, können diese Stärken der Methoden bei KI-Projekten explizite Ursachen von Problemen sein: Das Training und das Testen guter KI-Modelle sind meist nur schwer planbar.

Eine dritte Herausforderung ist die Integration von KI in bestehende Systeme. Fehlende Datenzugriffe stellen KI-Projekte nicht nur grundlegend infrage, sondern verschwenden Ressourcen. Häufig warten Data Scientists wochenlang auf Datenzugriffe, weil der Datenschutz, technische oder organisatorische Hürden im Weg stehen. Wenn sich darüber hinaus die Ergebnisse von intelligenten Systemen nicht in Legacy-Systeme zurückführen lassen, stehen KI-Projekte vor dem Aus.

Schwierig ist zudem, die Antworten von KI-Modellen verständlich zu erklären, besonders in kritischen oder rechtlich stark regulierten Bereichen. KI-Modelle mit guter Vorhersageleistung sind in der Regel undurchsichtig. Das kann das Vertrauen der Nutzer mindern, weil sie nicht verstehen, wie die Vorhersagen zustande kommen und was die Ursachen von Fehlern sind. Darin offenbart sich erneut der handwerkliche Charakter der KI-Entwicklung: Viele Data Scientists berichten, dass sie Erfahrung brauchen, um die Einflussfaktoren zu erkennen und zu interpretieren, die zu einer Vorhersage geführt haben.

Schließlich erfordert die dynamische Natur der Geschäfts- und Datenlandschaft eine kontinuierliche Pflege und Anpassung der KI-Modelle, um deren Leistungsfähigkeit langfristig sicherzustellen. Da sich Daten unentwegt verändern, sind datenbasierte Produkte einer stetigen Veränderung unterworfen.

Taktiken im Umgang mit den Herausforderungen

Die anfangs aufgeführte Studie identifiziert 15 Taktiken, die dabei helfen, das Management von KI-Projekten in dem paradoxen Spannungsfeld in der Praxis zu unterstützen.

Überhöhte Managementerwartungen:

• Einführen von Realitätschecks: Tools wie Checklisten entwickeln, um die Möglichkeiten und Grenzen von KI frühzeitig aufzuzeigen und unrealistische Erwartungen zu vermeiden.
• Klein anfangen, iterieren und wachsen: Pilotprojekte starten, die schrittweise ausgebaut werden, um schnelle Erfolge zu erzielen und Risiken zu minimieren.
• Externe Experten einbinden: Spezialisten können Wissen und Best Practices in frühen Projektphasen aufbauen.

KI-Projekte werden fälschlicherweise wie klassische IT-Projekte behandelt:

• Praxisorientiertes Training von Managern: Data Scientists sollten Führungskräften und anderen Stakeholdern während der Projekte die Besonderheiten von KI praxisnah vermitteln.
• KI-Kurse für Manager: Klassische Schulungen zu KI und Machine Learning helfen Managern grundlegendes Wissen aufzubauen.
• Passende Key Performance Indicators (KPIs) definieren: Erfolgskennzahlen entwickeln, die nicht nur den technischen Fortschritt, sondern auch die Nutzung und den Mehrwert von KI messen.

Fehlende Integration von KI in bestehende Systeme:

• Technische Brücken bauen: Middleware oder Robotic Process Automation (RPA) einsetzen, um KI-Systeme mit bestehenden IT-Systemen zu verbinden.
• Handlungsorientierte Empfehlungen geben: Vorhersagen in konkrete, für Nutzer leicht umsetzbare Maßnahmen umwandeln.
• "Learning Apprentice"-Ansätze nutzen: KI-Systeme durch Beobachtung menschlicher Arbeit trainieren, um Trainingsdaten zu generieren.
• Datenbewusstsein fördern: Auf mangelnde Datenqualität hinweisen und Abteilungen zur Zusammenarbeit für bessere Datengrundlagen motivieren.

Erklärungen für die Entscheidungen der Modelle:

• Post-hoc Erklärungsmodelle einsetzen: Modelle zur Verfügung stellen, die die Ergebnisse komplexer KI-Modelle verständlich machen.
• Transparente Modelle bevorzugen: einfache, gut interpretierbare KI-Modelle entwickeln, die trotzdem präzise Vorhersagen liefern können.
• Auf kausale Zusammenhänge fokussieren: Experimente durchführen und konzeptionelle Modelle nutzen, um Ursache-Wirkungs-Beziehungen besser zu verstehen.

Dynamische Umgebungen und sich verändernde Daten:

• Data Drift überwachen: Systeme zur Erkennung von Datenveränderungen einrichten, um Modellqualität langfristig sicherzustellen.
• MLOps-Ansätze einführen: Entwicklung und Betrieb von KI-Modellen verzahnen, um schnelle Anpassungen und robuste Abläufe zu gewährleisten.

Unterschiedliche Perspektiven

Alle fünf Herausforderungen können mit unterschiedlichen Sichtweisen auf die Data-Science-Arbeit erklärt werden. Manager und Anwender blicken auf KI oft mit einer mechanistischen Sicht, die sich in den (neuen) Möglichkeiten der Automatisierung und Arbeitsteilung gründet. Folglich betrachten diese Personen KI-Projekte häufig als planbare und strukturierte Vorhaben, die sich mit standardisierten Methoden und klar definierten Ergebnissen umsetzen lassen.

Die Data Scientists, als Ersteller von KI-Anwendungen, erleben ihre Arbeit hingegen als kreativen und iterativen Prozess, der Experimentierfreude, tiefgreifende Erfahrung, implizites Fachwissen und eine flexible Herangehensweise erfordert. Diese unterschiedlichen Perspektiven erzeugen eine paradoxe Spannung, die zu Missverständnissen und Fehlsteuerungen führen kann.

KI-Projekte benötigen die Kombination

Die Spannung sollte man nicht als Hindernis, sondern als Chance begreifen. Nur durch eine bewusste Balance zwischen handwerklicher und mechanistischer Herangehensweise können Unternehmen innovative und effiziente KI-Lösungen entwickeln und nachhaltig Wert schaffen. Beide Sichtweisen bringen essenzielle Aspekte ein: Die handwerkliche Perspektive hilft herauszufinden, welche Lösung am Ende das Problem behebt – sie steigert die Effektivität. Die mechanistische Sichtweise hingegen sorgt für Effizienz: KI-Projekte bleiben planbar und werden zu Ende geführt. Darüber hinaus kann eine handwerkliche Sichtweise den Menschen ins Zentrum der KI-Entwicklung rücken und uns zu einer neuen Arbeitsteilung verhelfen.

(rme)