Programmatic Tool Calling

Ein Programm ruft viele Tools auf; nur sein Ergebnis erreicht das Modell.

Tools werden dem Modell als Code-API angeboten statt als einzelne Tool-Definitionen; das Modell schreibt ein Programm, das mehrere Tools in einer Sandbox aufruft, und nur was das Programm ausgibt oder zurückgibt, gelangt in den Kontext des Modells.

In der PraxisEin Agent soll ein Meeting-Transkript aus einer Dokumentenablage an einen CRM-Datensatz hängen. Er schreibt ein Skript, das das Transkript holt und den Datensatz aktualisiert; das Transkript läuft nie durch das Modell.

Stufe
04 · Production
Teilgebiet
Tool Integration
Auch bekannt als
Code Mode, Code Execution with MCP, Code-based Tool Calling
Abwägung
Weniger Kontext-Tokens und weniger Inferenzdurchläufe werden mit den Kosten und dem Risiko erkauft, eine sichere Umgebung für Code-Ausführung zu betreiben.
Nativ in
Claude Platform, Cloudflare Agents SDK
Der Mechanismus

So funktioniert es.

Die Tools bleiben, wo sie sind; es ändert sich, wie das Modell sie erreicht. Es setzt nicht mehr einen Aufruf nach dem anderen ab, sondern schreibt ein Programm, und der Harness führt dieses Programm an einem sicheren Ort aus.

1 · Einrichten, einmal

  1. Tool-DefinitionenVon den MCP-Servern, wie bisher
  2. Code-API erzeugenEine Funktion pro Tool
  3. Ein Tool für das Modell„Führe diesen Code aus“

2 · Bei jeder Aufgabe

  1. Das Modell schreibt ein ProgrammMehrere Tool-Aufrufe, Schleifen, Filter
  2. Es läuft in der SandboxIsoliert, mit Limits
  3. Aufrufe gehen durch den HarnessWeiter zu den Servern, denen die Tools gehören
  4. Nur das Ergebnis kommt zurückWas das Programm ausgibt oder zurückgibt
Code-API
Die Tool-Definitionen als Funktionen oder Dateien. Das Modell liest nur die, die es braucht, statt alle im Kontext zu haben.
Sandbox
Die isolierte Umgebung, in der das Programm läuft. Sie erreicht Tools nur über den Harness, nicht über das offene Netz.
Rückgabe
Was das Programm ausgibt oder zurückgibt. Alles andere, auch Zwischenergebnisse, bleibt außerhalb des Kontexts.
Einmal durchspielen

Ein realer Ablauf, Schritt für Schritt.

AufgabeDas Beispiel von Anthropic: Ein Agent kopiert das Transkript eines Vertriebsmeetings aus Google Drive in einen Salesforce-Datensatz.
Die Summen nennt Anthropic für dieses Beispiel (2025); es ist keine unabhängige Messung.
AbschnittDirekte AufrufeAls Programm
Tool-DefinitionenAlle im Kontext, von Anfang anZwei Dateien gelesen, bei Bedarf
Transkript holenDas ganze Transkript kommt als Tool-Ergebnis in den KontextEs landet in einer Variablen in der Sandbox
Datensatz aktualisierenDas Modell schreibt das Transkript als Argument noch einmal ausDie Variable wird weitergereicht
Insgesamt150.000 Tokens2.000 Tokens
Was das zeigt: Die Ersparnis hat zwei Quellen: die Tool-Definitionen, die nie geladen werden, und das Transkript, das nie durch das Modell läuft. Erkauft wird sie mit einer Sandbox, die betrieben und abgesichert werden muss, und das Modell sieht das Transkript nicht mehr, das es bewegt hat.
Im Code

Das Pattern im Code.

TypeScripttypescript
import * as gdrive from "./servers/google-drive";
import * as salesforce from "./servers/salesforce";

// The transcript lives in a variable. It never enters the model's context.
const transcript = (await gdrive.getDocument({ documentId: "abc123" })).content;

await salesforce.updateRecord({
  objectType: "SalesMeeting",
  recordId: "00Q5f000001abcXYZ",
  data: { Notes: transcript },
});

console.log("Transcript attached.");  // the only line the model sees
Eignung

Einsetzen oder nicht.

Wann man dazu greift

  • Der Agent so viele Tools hat, dass ihre Definitionen das Kontextfenster füllen.
  • Zwischenergebnisse groß sind und nur ein gefilterter Teil zählt.
  • Eine Aufgabe mehrere Tool-Aufrufe mit Schleifen oder Bedingungen verkettet.

Wann es nach hinten losgeht

  • Die Aufgabe ein oder zwei direkte Tool-Aufrufe braucht.
  • Keine Sandbox mit Ressourcenlimits und Monitoring zur Verfügung steht.
  • Das Modell jedes Zwischenergebnis beurteilen muss, bevor der nächste Aufruf folgt.
Fallstricke

Zwei Wege, wie dieses Pattern Probleme verursachen kann.

Generierter Code reicht weiter als ein einzelner Tool-Aufruf

Ein Tool-Aufruf tut eine Sache. Ein Programm kann Schleifen drehen, Tools kombinieren und Daten von einem System ins andere tragen; eine eingeschleuste Anweisung hat damit mehr Hebel.

Gegenmaßnahme

Das Programm in einer Sandbox ohne allgemeinen Netzzugang ausführen, nur die Tools freigeben, die die Aufgabe braucht, und Limits für Zeit und Ressourcen setzen.

Das Modell sieht nicht mehr, was zwischen den Tools fließt

Zwischenergebnisse bleiben in der Sandbox. Ein falscher Datensatz, eine Fehlermeldung oder eine Anweisung, die in einem Tool-Ergebnis versteckt ist, wird vom Programm verarbeitet und vom Modell nie gelesen.

Gegenmaßnahme

Im Code prüfen, wovon der nächste Schritt abhängt, ausgeben, was das Modell beurteilen muss, und jeden Tool-Aufruf am Harness protokollieren.

Framework-Unterstützung

Wo Programmatic Tool Calling nativ ist.

Claude PlatformDienstProgrammatic Tool CallingNativ
Cloudflare Agents SDKCode ModeNativ

Suche

Patterns, Frameworks und Seiten durchsuchen.