KI-Agenten: Wo Vertrauen wichtiger ist als Geschwindigkeit

Es gilt angesichts ihrer Entwicklung als ausgemachte Sache, dass KI-Agenten den Softwaremarkt umkrempeln. Agentische Automatisierung gefährdet Arbeitsplätze oder transformiert diese bestenfalls in ganz neue Rollen der KI-Steuerung. In bestimmten Branchen, in denen es um Regulierung und Haftung geht, zeigt man sich indessen gelassen. Dort habe der Mensch noch etwas zu bieten, was die Künstliche Intelligenz nicht ausstrahlt: Vertrauen.

Die Veröffentlichung von Softwaretools wie OpenAI Codex, Claude Code oder das Desktop-Tool Claude Cowork hatte in den vergangenen Monaten ein kleines Beben an den Aktienmärkten ausgelöst. Branchenexperten sprechen von einer „SaaS-pocalypse“, weil Anleger aus Software-as-a-service-Aktien flüchteten, da sie fürchteten, dass KI deren Geschäftsmodell infrage stellt.

KI vs. Vertrauen

Wie die Financial Times nach Gesprächen mit Geschäftsführern, Investoren und Analysten darlegt, wird die zukünftige Entwicklung inzwischen doch etwas differenzierter gesehen. Dort, wo Fehler verheerende Konsequenzen nach sich ziehen können, also etwa im Bereich Finanzen und Recht, erwarten Marktbeobachter, dass Nachvollziehbarkeit und Verantwortlichkeit auch künftig schwerer wiegen als eine höhere Geschwindigkeit, die der KI-Einsatz verspricht. „Fast richtig ist nicht gut genug“, bringt es Thomson-Reuters-CEO Steve Hasker in dem Bericht auf den Punkt.

Auch bei der Cybersicherheit betrachten Marktteilnehmer das Auffinden von Code-Schwachstellen nur als einen Teil der Gleichung. KI sei vor allem gut bei klar definierten Aufgaben. Der Blick über den Tellerrand falle ihr trotz immer besserer Reasoning-Fähigkeiten immer noch schwer. Es ist ein ähnliches Problem wie der Hang vieler KI-Chatbots, ihren Nutzern ständig nach dem Mund zu reden.

„Miserabel im Urteilsvermögen“

Bei Finanzdienstleistungen betrachten Unternehmer wie der Co-CEO der Investment-Firma Hg Capital, Jean-Baptiste Brian, KI gar als „absolut miserabel beim Urteilsvermögen“. Proprietäre Daten, Regulatorik, Netzwerkeffekte und Systemintegration bleiben laut den Recherchen der Financial Times vorerst ein Schutzwall etablierter Softwareanbieter gegen den Durchmarsch der KI. Auch die Versicherungsbranche habe Vorbehalte, das Vertrauen der Kunden durch KI-Einsatz aufs Spiel zu setzen. Halluzinationen bei Preisen, Geschäftsbedingungen und Einwilligungen würden das Vertrauen untergraben.

Aus der KI-Branche ist hingegen zu hören, dass sie gar nicht den Anspruch verfolge, bestehende Software komplett zu ersetzen. KI-Tools wie Cowork sollen vielmehr vorhandene Software ergänzen, argumentiert die Anthropic-Produktverantwortliche für Claude Code, Catherine Wu. Dies entspricht auch den bisherigen Gepflogenheiten vieler Arbeitnehmer, die schon KI einsetzen. Sie erhoffen sich Effizienzgewinne. Zwar muss die geleistete Arbeit der KI kontrolliert werden. Wenn aber Zeitersparnis durch KI-Einsatz und Nachkontrolle durch den Menschen am Ende immer noch einen Zeitgewinn übrig lassen, hat sich die KI-Verwendung gelohnt. Zumindest, solange KI-Modelle noch bezahlbar sind.

(mki)