Modelle einsetzen – vom Prompt Engineering zur Wissensdestillation

Nicht nur ChatGPT, GPT-4 und Codex von OpenAI oder auch Googles Bard locken mit beeindruckenden Fähigkeiten, auch viele frei verfügbare Modelle werden immer leistungsfähiger. Open-Source-Werkzeuge und Methoden, um existierende Modelle auf ganz verschiedene Art zu verwenden, befinden sich in rasanter Entwicklung. Sie ermöglichen es, Deep-Learning-Modelle unterschiedlicher Herkunft fast ohne Programmieraufwand für eigene Anwendungen zu nutzen oder sie mit eigenen Daten und externen Tools zu verknüpfen. So entstehen KI-Agenten, die gestellte Aufgaben selbstständig erfüllen.

Große Transformer-Modelle können aber auch dazu dienen, ihr Wissen an einfacher aufgebaute, kompaktere neuronale Netze zu übertragen, die weniger Ressourcen benötigen. Doch wer von vorhandenen Modellen stets brauchbare Ergebnisse erwartet, muss ihnen sinnvolle Eingaben liefern. Selbst wenn also der Hype um das Prompt Engineering überzogen ist, an seinen Techniken führt momentan kein Weg vorbei.