Anti-patterns · #9
Self-Graded Hallucination
- Symptom
- Ein Modell, das seine eigene Antwort kritisiert, kann dem eigenen Fehler zustimmen — eine Reflexionsschleife konvergiert selbstsicher auf etwas Falsches.
- Behebung
- Das Urteil an einem externen Check verankern: einem ausführbaren Test, einem Orakel oder einem Menschen — nicht an einer weiteren Stichprobe desselben Modells.
- Ursprung
- Eingeführt auf L1
- Querverweis
- Das Versagen, um das die Reflexionsschicht der Entscheidungs-Heuristik herumlenkt — Selbstkritik ist nur so vertrauenswürdig wie der Check, an dem sie verankert ist. Gegenstück in der Wissensdatenbank: Teil IX §8.
Weiter erkunden