KI wird klüger, aber teurer: Warum kleine App-Anbieter unter hohen Kosten leiden
KI wird immer leistungsfähiger, doch die Kosten für App-Anbieter steigen. Besonders kleine Unternehmen leiden unter den hohen Preisen für KI-Modelle.
(Bild: KI / heise medien)
In der KI-Branche passiert gerade das Gegenteil von dem, was viele Analysten und Experten noch vor einigen Monaten vorhergesagt haben: Statt sinkender Kosten müssen viele Anbieter von KI-Anwendungen tiefer als je zuvor in die Tasche greifen, um die Leistung großer KI-Modelle wie GPT von OpenAI nutzen zu können.
Preis pro Token gesunken, Gesamtkosten steigen
Dabei sollten die Preise doch sinken, je klüger die KI wird und je schneller und mit weniger Aufwand bestimmte Aufgaben erledigt werden können. Und tatsächlich sind die Kosten pro Token im KI-Bereich deutlich gesunken, wie das Wall Street Journal (WSJ) berichtet. Warum müssen KI-App-Firmen dennoch mehr zahlen?
Das Problem ist, dass die neue Generation von KI-Modellen so entwickelt worden ist, dass sie mehr und länger "nachdenkt". Die sogenannten Reasoning-Modelle sollen komplexere Probleme lösen, tiefere Zusammenhänge erkennen und Schlussfolgerungen ziehen können.
All das erledigen sie allerdings, indem die Modelle Antworten noch einmal gegenchecken, eigens das Web durchsuchen oder sogar eigene kleine Programme schreiben, um bestimmte Aufgaben zu erledigen. Das kostet freilich Zeit und viel mehr Rechenschritte.
Verbraucht etwa eine normale Konversation mit einem KI-Chatbot 50 bis 500 Token, werden für eine komplexe, von einem KI-Assistenten zu erledigende Aufgabe zwischen 100.000 und einer Million Token fällig.
Videos by heise
Cursor und Co: KI-Anbieter müssen Preise anheben
Von steigenden Kosten durch das Anzapfen der neuen KI-Modelle sind entsprechend vor allem Anbieter von Coding-KI-Anwendungen betroffen. So mussten Cursor und Replit kürzlich ihre Preise anpassen, wie es beim WSJ heißt. Das ging offenbar so weit, dass einige Nutzer das Guthaben, das normalerweise für einen Monat reicht, in wenigen Tagen aufgebraucht hatten.
Allerdings können KI-Firmen wie Replit immer noch mit Margen jenseits der 80 Prozent rechnen. Noch scheinen sich die Nutzer zwar in Foren oder bei Reddit aufzuregen. Die Abwanderung zu möglichen günstigeren Alternativen scheint aber bisher nicht in Gang gekommen zu sein.
Mögliche Lösung: "Dümmere" KI-Modelle nutzen
Dennoch wäre es sicher eine Überlegung wert, für einfache Aufgaben auf nicht ganz so leistungsfähige KI-Modelle zurückzugreifen. Diese würden diese Aufgaben schneller und günstiger erledigen – und in bestimmten Bereichen vielleicht sogar besser.
Vom Preis her würde sich dies auf jeden Fall auszahlen. So kosten die günstigsten KI-Modelle wie OpenAIs GPT-5 Nano rund zehn US-Cent pro eine Million Token. Das Flaggschiffmodell GPT-5 soll dagegen mit rund 3,44 US-Dollar pro eine Million Token zu Buche schlagen.
Dieser Beitrag ist zuerst bei t3n.de erschienen.
(jle)