Wann man dazu greift
- Der Agent domänenspezifisches Wissen langfristig nutzen muss.
- Fakten und Präferenzen wiederverwendet werden.
- Beziehungen zwischen Entitäten entscheidend sind.
/pattern/semantic-memory/
Langfristiges Wissen wird strukturell, als Embeddings oder als Entitäten und Relationen gespeichert – unabhängig von einzelnen Gesprächen. Den Speicher passend zum Zugriffsmuster wählen und einfach beginnen: Vektor-DBs für Ähnlichkeitsabfragen, Key-Value (Redis) für schnelle exakte Suche, relational für strukturierte/auditierbare Abfragen und Graph-DBs erst dann, wenn Vektor plus relational zum Engpass wird.
In der PraxisEin Support-Assistent speichert, dass ein Kunde den Enterprise-Plan nutzt, und ruft diese Information in einem Gespräch Wochen später ab, ohne dass der Nutzer sie wiederholen muss.
Wann man dazu greift
Wann es nach hinten losgeht
Die Abwägung
Wiederverwendbares, hochstrukturiertes Wissen wird auf Kosten erheblicher Aktualisierungs-, Modellierungs- und Ranking-Herausforderungen gewonnen.
Dauerhafte Fakten überdauern jeden einzelnen Lauf.
Embeddings bewerten nach Oberflächenähnlichkeit. Ein hoch ähnlicher Treffer kann eine jahrealte Antwort auf eine Frage sein, deren Wahrheit sich inzwischen geändert hat.
Lösung · Ein Frischheitssignal ins Ranking einbeziehen und Dokumente ablehnen, die einen Aktualitäts-Cutoff überschreiten. Embeddings neu erstellen, wenn die Quelle aktualisiert wird – nicht nach Zeitplan.
Jeder Schreibvorgang hängt an. Der Speicher hält am Ende sowohl 'der Kunde ist auf Free' als auch 'der Kunde ist auf Enterprise', und der Abruf kann beides liefern, sodass der Agent sich zwischen Sitzungen selbst widerspricht.
Lösung · Fakten per Upsert über einen stabilen Entitätsschlüssel aktualisieren statt anzuhängen, und Konflikte beim Schreiben lösen (Latest-Wins oder expliziter Abgleich) statt beim Lesen.
Weitermachen
Patterns, Frameworks und Seiten durchsuchen.