Wann man dazu greift
- Nutzerkontext über mehrere Turns hinweg gepflegt werden muss.
- Bezüge auf frühere Aussagen erwartet werden.
- Konversationsfluss kritisch ist.
Conversational Memory.
Die laufende Nachrichtenhistorie, die der Agent jeden Turn liest.
Aktuelle Konversations-Turns werden aufbewahrt und wieder eingespielt, damit das Modell Kontext für den nächsten Turn hat — als vollständiges Transkript, als festes Fenster der letzten N Turns oder als laufende Zusammenfassung, sobald die Rohhistorie das Budget übersteigt. Dies ist die Kurzzeit-Ebene des Agentengedächtnisses.
In der PraxisEin Reiseplanungs-Chatbot spielt die letzten 20 Turns zu Beginn jeder Antwort ab, damit das Modell sich erinnert, dass der Nutzer vor drei Nachrichten 'nur Fensterplatz' gesagt hat.
Wann es nach hinten losgeht
- Datenschutzvorschriften die Speicherung verbieten.
- Historie unnötige Token verbraucht.
- Aufgaben strikt zustandslos sind.
Die Abwägung
Verbesserter Konversationskontext wird auf Kosten höherer Token-Kosten, Datenschutzrisiken und Kontextfenstererschöpfung gewonnen.
Was es tatsächlich tut.
Jeder Turn wird angehängt und als Kontext wieder eingespielt.
Zwei Wege, wie dieses Pattern Probleme verursachen kann.
Unbegrenzte Historie erschöpft das Kontextfenster
Jeder Turn fügt dem Puffer etwas hinzu; irgendwann besteht der Prompt größtenteils aus veralteten Dialogen und das Modell kürzt die jüngsten — und relevantesten — Turns.
Lösung · Puffer durch Token-Budget begrenzen. Ältere Turns in einen einzelnen Block zusammenfassen oder auf Abruf aus einem episodischen Speicher zurückgreifen.
Die Zusammenfassung verwirft still das Detail, das du brauchtest
Um im Budget zu bleiben, werden ältere Turns zu einer Zusammenfassung komprimiert. Der eine konkrete Fakt, von dem ein späterer Turn abhängt — ein Buchungscode, eine exakte Zahl — ist genau das, was die Zusammenfassung wegparaphrasiert.
Lösung · Dauerhafte Fakten (IDs, Präferenzen, Zusagen) extrahieren und in einem strukturierten Slot fixieren, bevor die Prosa zusammengefasst wird, damit die Komprimierung sie nie berührt.
Wo Conversational Memory nativ ist.
Microsoft Agent FrameworkThread-HistorieNativ
Weitermachen