Wann man dazu greift
- Die Anzahl der Agenten groß ist.
- Domänen in Sub-Teams organisiert werden müssen.
- Lokale Entscheidungen zentral aggregiert werden müssen.
Hierarchical Supervisor.
Supervisoren von Supervisoren. Durch Schichten skalieren.
Mehrere Supervisoren organisieren Agenten in hierarchischen Schichten und delegieren Verantwortung für größere Teams oder komplexe Domänen.
Wann es nach hinten losgeht
- Eine kleine Anzahl von Agenten ausreicht.
- Kommunikationspfade kurz bleiben müssen.
- Verantwortlichkeiten nicht sauber getrennt werden können.
Die Abwägung
Skalierbare Organisationsstruktur wird gegen höhere Komplexität und längere Entscheidungspfade erkauft.
Eine Form, die du auf eine Serviette zeichnen kannst.
Ein Top-Supervisor delegiert an Sub-Supervisoren, die jeweils ihr eigenes Team verwalten. Das Pattern 'Supervisor von Supervisoren'.
Zwei Wege, wie dieses Pattern Probleme verursachen kann.
Entscheidungslatenz multipliziert sich mit der Tiefe
Eine Anfrage durchläuft drei Supervisor-Schichten, bevor sie einen Worker erreicht. Jede Schicht fügt einen vollständigen LLM-Aufruf hinzu.
Lösung · Schichten komprimieren: eine neue Supervisor-Ebene nur dann hinzufügen, wenn der Fan-out einen Schwellenwert überschreitet (z. B. > 8 Worker).
Untergeordnete Supervisoren optimieren lokale Metriken auf globale Kosten
Ein Sub-Supervisor maximiert den Durchsatz seines eigenen Teams, aber das globale Ziel erfordert teamübergreifende Koordination.
Lösung · Das globale Ziel jeder Supervisor-Ebene zugänglich machen oder einen periodischen globalen Neuausrichtungsdurchlauf hinzufügen.