Multi‑Agent Systems

/ladder/l1/

L1 · Einzelagent

Ein Verstand, der eine Aufgabe in einer Schleife bearbeitet.

Wie ein einzelner Agent intern denkt — Gedanke, Aktion, Beobachtung, Reflexion. Die Einheit, zu der du immer wieder zurückkehrst, selbst in den größeren Systemen.

ReAct öffnen, das kanonische Pattern Im Pattern Racer ansehen

Anatomie

Woraus ein L1-Agent besteht.

Fünf Teile bilden einen einzelnen Agenten: Eingabe, Modell, System-Prompt, Tools und Ausgabe. Das Diagramm verdrahtet sie zur Schleife Denken → Handeln → Beobachten; die Karten darunter zerlegen jeden Teil.

SYSTEM PROMPTRolle, Regeln, PersonaEINGABEWahrnehmungNutzeranfrage, SignaleLLM · DAS GEHIRNReasoningkognitiver Kern · Weltmodellentscheidet: Tool rufen oder antwortenAUSGABEEndantwortSchleife geschlossenAntwortTOOLS · DIE HÄNDETypisierte Aktionen — fetch, query, CodeAktionbeobachten

  • Eingabe · Wahrnehmung

    Das Startsignal.

    Rohe Eingabe vom Nutzer oder der Umgebung, zu strukturierten Perzepten verarbeitet, über die der Kern des Agenten schlussfolgern kann.

  • LLM · Das Gehirn

    Der kognitive Kern.

    Das Large Language Model trägt das Reasoning und pflegt das interne Weltmodell des Agenten — sein Bild davon, was bislang wahr ist.

  • System-Prompt · Ständige Anweisung

    Wie es zum Denken verdrahtet ist.

    Eng an das Modell gebunden. Definiert die Rolle des Agenten, gibt Betriebsanweisungen und prägt, wie er plant.

  • Tools · Die Hände

    Wie es auf die Welt einwirkt.

    Wenn das Reasoning schließt, dass externe Information oder Fähigkeit nötig ist, gibt das Modell einen strukturierten Tool-Call aus. Tools sind typisierte Funktionen — eine Datenbank abfragen, Code ausführen, eine Seite abrufen.

  • Ausgabe · Rückkopplung

    Die Schleife schließt sich.

    Tool-Ergebnisse fließen als Beobachtungen zurück. Der Agent bewertet, entscheidet, ob er ein weiteres Tool aufruft, und setzt entweder die Schleife fort oder gibt eine endgültige Antwort zurück.

Wann diese Sprosse passt

Wann reicht ein einzelner Agent?

Ein einzelner Agent genügt, wenn…
  • Fragen sind einfach und direkt.
  • Alle benötigten Tools sind gleichermaßen autorisiert.
  • Kein strukturierter Fluss ist erforderlich.
…und reicht nicht, wenn
  • Verschiedene Aufgaben brauchen verschiedene Denkweisen.
  • Parallele Verarbeitung ist notwendig.
  • Ein Mensch muss an bestimmten Punkten eingreifen.
  • Fehler sollten auf einen Schritt lokalisierbar sein.

Die Schleife

Denken, handeln, beobachten — und zurück zum Denken.

Die Schleife in drei Momenten

DenkenNächstes wählen
HandelnTool ausführen
BeobachtenRückkopplung

↻  wiederholen, bis die Aufgabe erledigt wirkt

01

Denken

Das Modell entscheidet, was als Nächstes zu tun ist: ein Tool aufrufen oder antworten.

02

Handeln

Der Harness führt das gewählte Tool aus — niemals das Modell.

03

Beobachten

Das Ergebnis wird in den Kontext zurückgeführt. Die Schleife läuft weiter.

Worauf es läuft

Wie ein L1-Agent die Welt erreicht.

Die Tool-Box in der Anatomie ist selten von Hand verdrahtet. Vier operative L4-Primitive sind das Substrat, auf dem jeder einzelne Agent bereits steht.

  • Function Calling

    Tool Calling · Strukturierte Tool-Nutzung

    Tool Integration

    Das Primitiv. Das Modell gibt strukturiertes JSON aus; dein Harness ruft eine typisierte Funktion auf und liefert das Ergebnis zurück.

    Warum für L1Jedes L1-Pattern baut darauf auf — ohne es hat der Agent keine Möglichkeit zu handeln.

    In L4 ansehen

  • MCP

    Model Context Protocol

    Tool Integration

    Der Standard. Ein offenes Protokoll von Anthropic (2024), das externe Tools und Datenquellen als einheitliche Oberfläche bereitstellt.

    Warum für L1In der Produktion ist die Tool-Box in der Anatomie oben selten eine handverdrahtete API — sie ist ein MCP-Server.

    In L4 ansehen

  • Tool Registry

    Capability-Katalog · Function Registry

    Tool Integration

    Der Katalog. Tools zentral registriert samt Schemas, Berechtigungen und Versionen — das Gegenmittel zur Tool-Explosion.

    Warum für L1Ein L1-Agent mit fünf Tools braucht das nicht; mit fünfzig überlebt er ohne es nicht.

    In L4 ansehen

  • Sandbox Execution

    Isolierte Runtime · Containerisierte Tools

    Governance

    Wo CodeAct tatsächlich läuft. Nicht vertrauenswürdiger Code wird in eine versiegelte Umgebung eingeschlossen, sodass Seiteneffekte nicht entkommen können.

    Warum für L1Ohne dies ist CodeAct ein gefährliches Eigentor. Mit ihm ist es das präziseste L1-Pattern.

    In L4 ansehen

Patterns · 7 auf dieser Sprosse

7 Reasoning-Patterns auf dieser Sprosse.

Jede Karte ist eine wiederkehrende architektonische Antwort auf eine andere „Wie soll dieser Agent denken?“-Frage. Überfliege „Einsetzen wenn“ / „Nicht wenn“ / „Abwägung“; öffne eine Karte zur Vertiefung.

Schleifen-Reasoning

Erst planen

  • Plan-and-Execute

    alias Planner-Executor · Plan then Act · Task Planning

    Öffnen

    Ein Agent erstellt zunächst einen vollständigen Plan und führt die Schritte anschließend sequenziell oder kontrolliert aus.

    Einsetzen wenn
    • Das Gesamtziel sich klar in testbare Teilaufgaben aufgliedern lässt.
    • Die Ausführung nachvollziehbar und zentral steuerbar sein muss.
    • Kosten oder Latenz relevant sind und LLM-Aufrufe minimiert werden sollen.
    Nicht wenn
    • Die Umgebung hochdynamisch ist und der Plan sich aufgrund früher Tool-Ergebnisse grundlegend ändern könnte.
    • Die Aufgabe explorativ ist und der nächste Schritt vom vorherigen Ergebnis abhängt.
    Abwägung
    Bessere Struktur und Testbarkeit gegenüber ReAct, aber mit dem Risiko, dass der Agent an veralteten oder ungeeigneten Plänen festhält.
    LangGraphCrewAIGoogle ADKMicrosoft Agent Framework+1

    Huang et al. (2024) — Understanding the Planning of LLM Agents: A Survey

  • ReWOO

    alias Reasoning without Observation · Planner-Solver Pattern

    Öffnen

    Der Agent plant alle notwendigen Tool-Aufrufe im Voraus, führt sie gebündelt aus und nutzt die aggregierten Ergebnisse für die finale Antwort.

    Einsetzen wenn
    • Die erforderlichen Tool-Aufrufe zu Beginn identifizierbar sind.
    • LLM-Aufrufe drastisch reduziert werden müssen.
    Nicht wenn
    • Tool-Ergebnisse stark verzweigen.
    • Interaktive Fehlerbehandlung pro Zwischenschritt kritisch ist.
    Abwägung
    Deutlich niedrigere LLM-Kosten und Latenz, jedoch auf Kosten der Anpassungsfähigkeit während der Ausführung.
    LangGraphGoogle ADKOpenAI Agents SDK

    Xu et al. (2023) — ReWOO: Decoupling Reasoning from Observations

Selbstverbesserung

  • Reflexion

    alias Self-Reflection · Self-Critique · Reflection Loop

    Öffnen

    Der Agent bewertet seine eigenen Zwischenergebnisse kritisch und nutzt dieses Feedback, um in iterativen Schleifen die nächsten Schritte oder die Ausgabe zu verbessern.

    Einsetzen wenn
    • Ergebnisqualität Vorrang vor minimaler Latenz hat.
    • Fehler vom Modell durch gezielte Selbstkritik erkannt werden können.
    Nicht wenn
    • Die Selbsteinschätzung des Modells unzuverlässig ist.
    • Harte externe Validierungen existieren.
    • Latenz und Kosten streng begrenzt sind.
    Abwägung
    Führt zu höherer Ergebnisqualität, verursacht aber zusätzliche Token-Kosten und kann zu falschem Vertrauen führen.
    LangGraphAutoGen / AG2Microsoft Agent FrameworkGoogle ADK+1

    Shinn et al. (2023) — Reflexion: Language Agents with Verbal Reinforcement Learning

Suchen / Sampling

  • Tree of Thoughts

    alias ToT · Branching Reasoning · Search over Thoughts

    Öffnen

    Der Agent erkundet wie in einem Baumdiagramm gleichzeitig mehrere Denkpfade und wählt vielversprechende Pfade zur Weiterentwicklung, während Sackgassen verworfen werden.

    Einsetzen wenn
    • Das Problem mehrere plausible Lösungspfade hat.
    • Frühe Entscheidungen hohe Folgewirkungen haben.
    • Der Suchraum vom LLM sinnvoll bewertet werden kann.
    Nicht wenn
    • Die Aufgabe linear oder direkt lösbar ist.
    • Kosten und Latenz gering bleiben müssen.
    Abwägung
    Ermöglicht eine deutlich breitere und tiefere Erkundung des Lösungsraums, führt aber zu exponentiell steigendem Rechen- und Token-Aufwand.
    LangGraphAutoGen / AG2Google ADK

    Yao et al. (2023) — Tree of Thoughts

  • Self-Consistency

    alias Majority Reasoning · Sample-and-Vote · Consensus Sampling

    Öffnen

    Das System generiert mehrere unabhängige Denkausgaben für denselben Prompt und führt die Ergebnisse anschließend per Konsens oder Abstimmung zu einer finalen Antwort zusammen.

    Einsetzen wenn
    • Die stochastische Vielfalt von Modellen genutzt werden soll.
    • Das Ergebnis robust gegen einzelne Logikfehler in einzelnen Durchläufen sein muss.
    Nicht wenn
    • Die Aufgabe ohnehin deterministisch validierbar ist.
    • Die Kosten pro Anfrage streng begrenzt sind.
    Abwägung
    Deutlich robustere Antworten gegenüber falschen Pfaden, erkauft durch mehrfache Inferenzkosten.
    Google ADKLangGraphMicrosoft Agent FrameworkAnthropic Cookbook

    Wang et al. (2022) — Self-Consistency Improves Chain-of-Thought Reasoning

Code als Aktion

  • CodeAct

    alias Code-as-Action · Programmatic Action · Executable Reasoning

    Öffnen

    Der Agent verwendet ausführbaren Code statt reinem Text als primäres Medium für Aktionen und Schlussfolgerungen — er schreibt Code, führt ihn in einer Sandbox aus, beobachtet das typisierte Ergebnis und iteriert, sodass eine Berechnung ausgeführt statt in Prosa angenähert wird.

    Einsetzen wenn
    • Berechnungen, Datentransformationen oder komplexe Tool-Aufrufe präzise ausführbar sein müssen.
    • Das Ergebnis reproduzierbar sein soll.
    • Mehrstufige Logik sich als ein Programm sauberer komponieren lässt denn als Kette einzelner Tool-Aufrufe.
    Nicht wenn
    • Code-Ausführung nicht sicher in einer Sandbox isoliert werden kann.
    • Die Aufgabe rein sprachlicher Natur ist.
    • Der Overhead einer Code-Laufzeit einen einzelnen direkten Tool-Aufruf überwiegt.
    Abwägung
    Maximale Präzision und Reproduzierbarkeit stehen einem hohen Sandbox-, Sicherheits- und Laufzeit-Overhead gegenüber.
    OpenAI Agents SDKAutoGen / AG2Microsoft Agent FrameworkLangGraph+1

    Wang et al. (2024) — Executable Code Actions Elicit Better LLM Agents

Pattern-Vergleich

Zwei L1-Patterns im direkten Vergleich.

0.0s
Single Agent

ReAct

Denken → Handeln → Beobachten. Wiederholen.

  1. GedankeI need three populations. I'll search for them one at a time.
  2. Aktionsearch("Berlin population 2025")
  3. Beobachtung3.85M
  4. GedankeGood. Now Hamburg.
  5. Aktionsearch("Hamburg population 2025")
  6. Beobachtung1.91M
  7. GedankeOne more. Munich.
  8. Aktionsearch("Munich population 2025")
  9. Beobachtung1.51M
  10. Antwort~7.27M combined.
9 LLM-Aufrufe3 Tool-AufrufeAdaptiv pro Schritt
Single Agent

Plan-and-Execute

Einmal planen. Liste ausführen.

  1. Plan1. search(Berlin)
    2. search(Hamburg)
    3. search(Munich)
    4. sum results
  2. Schritt 1search("Berlin population 2025") → 3.85M
  3. Schritt 2search("Hamburg population 2025") → 1.91M
  4. Schritt 3search("Munich population 2025") → 1.51M
  5. Schritt 4sum(3.85, 1.91, 1.51) → 7.27M
  6. Antwort~7.27M combined.
2 LLM-Aufrufe3 Tool-AufrufeBrüchig bei Planabweichung

Gleiche Antwort. Unterschiedliche Formen. ReAct zahlte für Anpassungsfähigkeit mit zusätzlichen Reasoning-Aufrufen. Plan-and-Execute zahlte für Kosteneinsparungen mit einem Plan, der nicht reagieren konnte, wenn eine Suche leer zurückkam. Beide sind richtig — für unterschiedliche Aufgaben.

Anti-Patterns

Wie diese Sprosse schiefgeht.

  • #04

    Tool Explosion

    SymptomDie Tool-Auswahlgenauigkeit bricht ein. Das Modell halluziniert Aufrufe und Parameternamen.

    BehebungMinimal-Rechte pro Rolle. Große Kataloge hinter einer Tool Registry plus Capability-Routing absichern.

  • #08

    Unbounded Loop

    SymptomEin L1-Agent steckt wegen fehlerhaften Reasonings in unproduktiven Endloszyklen fest, ohne programmiertes Rekursionslimit oder Schritt-Budget.

    BehebungEin hartes recursion_limit und ein Schritt-Budget auf Harness-Ebene setzen. Ein Reflexion-Gate oder einen Tool-Call-Zähler hinzufügen, um Endlosschleifen zu unterbrechen.

  • #02

    Hidden State in Prompts

    SymptomVerhalten driftet über lange Gespräche. Fehler reproduzieren sich nur sporadisch.

    BehebungPydantic-v2-Zustand an jeder Knotengrenze. Zusätzliche Attribute verbieten. Zustand gehört in den Code.

Frameworks

Worauf du das aufbaust.

LangGraphpython
from langgraph.prebuilt import create_react_agent
from langchain_openai import ChatOpenAI

model = ChatOpenAI(model="gpt-4o")
graph = create_react_agent(
    model,
    tools=[web_search, fetch_page],
    prompt="Answer with tool-use.",
)

# Built-in loop: model -> tools -> model -> ... -> END
# `recursion_limit` is your guard against runaway loops.
result = graph.invoke(
    {"messages": [("user", query)]},
    config={"recursion_limit": 10},
)

Vertiefung

Denken, handeln, beobachten — wiederholen.

Ein L1-Agent ist eine while-Schleife um ein LLM. In jedem Durchlauf denkt er über das Ziel nach, ruft ein Tool auf, liest das Ergebnis und entscheidet, ob er aufhört oder weitermacht. Die kanonische Ausformulierung dieser Schleife ist das ReAct-Pattern: Das Modell denkt über den aktuellen Zustand nach, wählt ein aufzurufendes Tool (oder antwortet), der Harness führt das Tool aus, und das Ergebnis wird als Beobachtung für den nächsten Durchlauf in den Kontext zurückgeführt.

Die Schleife endet, wenn das Modell entscheidet, dass es genug Information zum Antworten hat, oder wenn der Harness einen Stopp erzwingt — ein Schritt-Budget, eine Token-Obergrenze, ein hartes Zeitlimit. Der Harness, nicht das Modell, führt die Tools aus und zählt das Budget; diese Trennung ist es, die die Schleife analysierbar macht. Das Modell kann einen Tool-Call halluzinieren, aber es kann keine erfolgreiche Ausführung halluzinieren.

Du wächst aus L1 heraus, wenn der Prompt eines Agenten zwei Jobs erledigt — wenn dieselbe Systemnachricht das Modell auffordert, innerhalb eines Kontextfensters zu planen, auszuführen und zu beurteilen. An diesem Punkt ist der natürliche Schritt zu L2 (in einen Workflow zerlegen) oder L3 (die Jobs auf Spezialagenten aufteilen). Die Entscheidung beruht darauf, ob die Struktur im Code bekannt ist (L2) oder zur Laufzeit ausgehandelt werden muss (L3).

Wann aufsteigen

Wenn eine Schleife nicht mehr reicht, verdrahte den Fluss.

Sobald du den Kontrollfluss auf einem Whiteboard skizzieren kannst — feste Verzweigungen, vorhersehbare Form, Fehler, die auf einen Schritt lokalisiert werden sollten —, bist du einer einzelnen adaptiven Schleife entwachsen. Das ist L2: Struktur im Code, das Modell füllt die Lücken.

Hinauf zu L2 — Workflows

Quellen

Wo diese Sprosse zuerst niedergeschrieben wurde.

Die L1–L4-Leiter ist ein didaktisches Konstrukt dieses Projekts — eine Art, den Katalog zu ordnen, kein externes Modell. Ihr Workflow-vs-Agent-Schnitt (L2↔L3) folgt Anthropics Building Effective Agents (2024); die Patterns jeder Sprosse tragen ihre eigenen Primärquellen.

Suche

Patterns, Frameworks und Seiten durchsuchen.