Was soll schon schiefgehen – LLMs in der Softwareentwicklung

Große Sprachmodelle versprechen, das Entwickeln von Software einfacher und effizienter zu machen und damit dort erfolgreich zu sein, wo bisherige Ansätze gescheitert sind. Die Systeme haben Potenzial, doch ohne klare Strategie bei ihrer Einführung verursachen sie eher mehr Abhängigkeiten und Komplexität.

Von Dr. Alexander Schatten und Marco Reiser

iX-tract

Auf großen Sprachmodellen basierende KI-Assistenten sollen Entwicklern Arbeit abnehmen und bei der Automatisierung im Softwareentwicklungsprozess helfen. Das soll Menschen entlasten und Komplexität reduzieren.
Obwohl KI-Assistenten versprechen, die Softwareentwicklung effizienter zu gestalten, erfordert ihr Einsatz eine Aufbereitung von Datenquellen und eine akribische Kontrolle der Aktivitäten. Dadurch können sie zum Produktivitätskiller werden.
Die unbedachte Einführung von LLMs im Unternehmen kann einen Verlust von Expertise bedeuten, wenn man von den Betreibern der Systeme abhängig wird und Routineprozesse intern nicht mehr versteht.
Unternehmen müssen sich aktiv mit dem Einsatz von KI beschäftigen, da sonst die unkontrollierte Einführung durch die Hintertür droht.

Softwaresysteme lassen sich als eine Kombination aus Hardware, Software und den Menschen, die diese Systeme entwickeln, warten und verwenden, verstehen. Erst aus der Interaktion dieser drei Faktoren entstehen der Nutzen und die Möglichkeit zur Weiterentwicklung der Systeme. Die Softwarekomponente hat dabei schon früh in ihrer Geschichte Eigenschaften gezeigt, die bei anderen technischen Systemen nicht zu beobachten waren. Mit der ersten Softwarekrise zeigte sich in den 1960ern das Phänomen, dass die Fähigkeiten von Hard- und Software schneller wachsen als die der menschlichen Ingenieure. Aus dieser Krise sind wir bis heute nicht herausgekommen. Ein Grund dafür ist die stetig steigende Komplexität von Software selbst, aber auch Komplexität, die durch Software und die kontinuierlich zunehmende Vernetzung mit anderen Systemen entsteht und damit wieder auf Software zurückwirkt.

Da mittlerweile alle gesellschaftlichen Prozesse von Software abhängig sind, bekommt die Krise eine immer höhere Kritikalität. Hinzu kommt ein Phänomen, das man als Komplexitätsparadoxon bezeichnen könnte (Abbildung 1): Zwar sind wir in der Praxis von Softwareentwicklung, Wartung und Betrieb stetig besser geworden, die Komplexität der Systeme hat aber dennoch nicht ab-, sondern vielmehr weiter zugenommen. Salopp formuliert: Wir produzieren und betreiben immer mehr und schnellere Software bei gleichbleibend schlechter individueller Qualität. Diese individuellen Qualitätsprobleme einzelner Softwarekomponenten werden heute aber aufgrund der zunehmenden Vernetzung immer systemischer. Es gibt, anders als in den 1960er- und 1970er-Jahren, kaum mehr isoliert betriebene Software.