Der Agent verwendet ausführbaren Code statt reinem Text als primäres Medium für Aktionen und Schlussfolgerungen — er schreibt Code, führt ihn in einer Sandbox aus, beobachtet das typisierte Ergebnis und iteriert, sodass eine Berechnung ausgeführt statt in Prosa angenähert wird.
Wann man dazu greift
Wann es nach hinten losgeht
Die Abwägung
Maximale Präzision und Reproduzierbarkeit stehen einem hohen Sandbox-, Sicherheits- und Laufzeit-Overhead gegenüber.
Denken, Code emittieren, in einer Sandbox ausführen, das typisierte Ergebnis beobachten — und zurück zum Denken. Code ist die Aktion.
Der emittierte Code liest sensible Dateien oder öffnet ausgehende Verbindungen trotz Sandbox.
Lösung · Eine gehärtete Sandbox mit strikten seccomp-Richtlinien, ohne Netzwerk und mit schreibgeschütztem Dateisystem verwenden.
Ein fehlgeschlagener Tool-Aufruf gibt stderr zurück, aber der Agent interpretiert es als gültige Beobachtung und fährt mit korruptem Zustand fort.
Lösung · Exit-Codes immer prüfen. Exit-Codes ungleich null als Fehler behandeln und zu einem Fehlerbehandlungsknoten weiterleiten.
Bedrohungsexposition
Dieses Pattern öffnet diese Angriffsflächen. Jede verlinkt auf ihren Eintrag im Bedrohungsmodell.
Vollständiges Bedrohungsmodell →Patterns, Frameworks und Seiten durchsuchen.