ChatGPT funktioniert besser, wenn man ihm seine Präferenzen mitteilt. Man kann jetzt schon Aufforderungen hinterlegen wie "Ich möchte kurze Antworten ohne lange Erklärungen, wenn ich Fragen habe, werde ich sie stellen", um das Gelaber etwas zu reduzieren.
Nun scheint OpenAI diese Vorlage automatisch generieren zu wollen. Das ergibt Sinn, genauso wie wenn sie den Titel einer Konversation automatisch generieren - schließlich ist ihr Produkt eine Text-KI.
Wo der Autor vom Kurs abkommt, ist der Gedanke, dass diese Informationsschnipsel über den Benutzer für das Training verwendet würden. Diese Informationen fließen eben in den persönlichen Prompt für die Chats ein, so dass das Modell auf die Frage "Was kann ich meinem Kind schenken" altersgerecht antworten kann. Viel mehr passiert da nicht.
Das ist eine Funktion, die ich selber gegebenenfalls abschalten würde. Das ist aber auch eine Funktion, über die sich viele andere Nutzer freuen werden, weil sie diese Form der Personalisierung auf diversen Seiten haben möchten. Solange OpenAI hier transparent ist, was sie machen und ein Opt-Out ermöglichen, ist eigentlich alles im grünen Bereich.
Ich weiß auch nicht, ob die Einführung von Text-Embeddings hier passende ist, denn das UI zeigt doch, dass die Daten als Text gespeichert und bearbeitet werden sollen. Ich bezweifle, dass hier viel mehr passieren wird, als dass ein Textmodell die Präferenzen als Text extrahiert und beim nächsten Chat die Zusammenfassung als Text mit in den Prompt gibt.