Anti-patterns · #7
Cascading Security Failures
- Symptom
- Ein vergiftetes Dokument in einem gemeinsamen Index kontaminiert jeden nachgelagerten Konsumenten. Prompt-Injection propagiert über Übergaben.
- Behebung
- Jede Agent-zu-Agent-Nachricht als Vertrauensgrenze behandeln. Wissensdatenbanken nach Vertrauensniveau partitionieren.
- Ursprung
- Eingeführt auf L3
- Querverweis
- Das Versagen auf Architekturebene, das das Security-Bedrohungsmodell durchgängig behandelt: Jede OWASP-LLM- und Agentic-Bedrohung, die sich über eine Vertrauensgrenze ausbreitet, führt hierher zurück. Wissensdatenbank-Gegenstück: Teil IX §7.
Weiter erkunden
Jetzt der richtige Weg.
PatternsControllerÜberwacht kontinuierlich das Verhalten des Agenten und richtet es transparent an ethischen Grundsätzen und Compliance-Regeln aus. Realisiert im größeren Maßstab als Governance-Agent (der auf Richtlinienverstöße achtet) oder Sicherheits-Agent (der anomales Verhalten markiert), der andere Agenten überwacht und nur beim Auslösen einer Regel an einen Menschen eskaliert.Controller lesen SicherheitSicherheits-BedrohungsmodellDie OWASP-Kataloge für LLM- und Agentic-Bedrohungen, abgebildet auf die hier dokumentierten Abwehrmaßnahmen.Zum Bedrohungsmodell PatternsAnti-PatternsDie Fehlermodi, gegen die man entwerfen sollte.Zurück zu den Anti-Patterns