Wann man dazu greift
- Das Problem mehrere plausible Lösungspfade hat.
- Frühe Entscheidungen hohe Folgewirkungen haben.
- Der Suchraum vom LLM sinnvoll bewertet werden kann.
Tree of Thoughts.
Das Denken verzweigen. Das beste Blatt behalten.
Der Agent erkundet wie in einem Baumdiagramm gleichzeitig mehrere Denkpfade und wählt vielversprechende Pfade zur Weiterentwicklung, während Sackgassen verworfen werden.
Wann es nach hinten losgeht
- Die Aufgabe linear oder direkt lösbar ist.
- Kosten und Latenz gering bleiben müssen.
Die Abwägung
Ermöglicht eine deutlich breitere und tiefere Erkundung des Lösungsraums, führt aber zu exponentiell steigendem Rechen- und Token-Aufwand.
Eine Form, die du auf eine Serviette zeichnen kannst.
Jeder Gedanke erzeugt einige Kindknoten; vielversprechende Verzweigungen expandieren, Sackgassen werden abgebrochen.
Zwei Wege, wie dieses Pattern Probleme verursachen kann.
Verzweigungsfaktor sprengt das Budget
Naives Expandieren jedes Knotens multipliziert LLM-Aufrufe exponentiell ohne erkennbaren Nutzen.
Lösung · Verzweigungsfaktor und Tiefe begrenzen; nach jeder Schicht anhand eines Scores beschneiden.
Die Pruning-Heuristik ist ebenfalls ein LLM
Das Pruning ist selbst nicht-deterministisch; bei knappem Budget kann es den besten Ast verwerfen.
Lösung · Pruning an ein prüfbares Signal koppeln (ausführbare Prüfung, Oracle, Regex), wenn möglich.