Resource Overload
- Eingabe / Prompt
- Tools & externe Daten
Angreifer erschöpfen gezielt die Rechen-, Memory- oder externe Dienstkapazität eines Agenten — einschließlich selbst ausgelöster Task-Erzeugung und Multi-Agenten-Koordination —, um die Leistung zu beeinträchtigen oder einen Ausfall zu verursachen.
Was es ist
Resource Overload erschöpft gezielt die Rechen-, Memory- oder externe Servicekapazität eines Agenten — einschließlich selbst ausgelöster Task-Erzeugung und Multi-Agenten-Koordination —, um die Leistung zu degradieren oder einen vollständigen Ausfall zu verursachen. Die Bedrohung unterscheidet sich von einem klassischen Denial-of-Service-Ziel, weil die Architektur eines Agenten selbst die Angriffsfläche vervielfacht: rechenintensive Inferenz, verkettete Tool-Aufrufe und Abhängigkeiten von mehreren externen Diensten werden jeweils zu einem eigenen Erschöpfungspunkt, und ein einzelnes auslösendes Ereignis kann sich auf viele davon verzweigen. Die Bedrohung erweitert Unbounded Consumption (LLM10) um ein spezifisch agentisches Fehlermuster: Da Agenten Tasks autonom planen, einreihen und wiederholen — ohne direkte menschliche Aufsicht — und weitere Agenten erzeugen oder an sie delegieren können, kann ein Angreifer, der einen einzelnen Einstiegspunkt auslöst, mehrere Agenten dazu bringen, gleichzeitig geteilte Kapazität zu verbrauchen, nicht nur ihr eigenes Inferenzbudget.
Angriffsszenarien
Ein Angreifer bombardiert ein Multi-Agenten-Recherche-System mit Anfragen, die jeden Spezialisten-Agenten gleichzeitig auslösen, das gemeinsame API-Kontingent erschöpfen und legitime Nutzer aushungern lassen.
Ausnutzung zur Inferenzzeit
Speziell gestaltete Eingaben zwingen einen Agenten auf seinen ressourcenintensivsten Analysepfad, überlasten die Verarbeitungskapazität und verzögern Echtzeit-Entscheidungen, die das System eigentlich schnell treffen sollte.
Erschöpfung des API-Kontingents
Eine Flut von Anfragen löst übermäßige externe API-Aufrufe aus, erschöpft rasch das Kontingent des Systems, blockiert legitime Nutzung und treibt die Betriebskosten in die Höhe, bevor eine Budgetprüfung greift.
Kaskadierender Memory-Ausfall
Mehrere komplexe Tasks, die jeweils umfangreiche Memory-Zuweisung benötigen, werden parallel gestartet, fragmentieren und erschöpfen den Memory systemweit und stören Dienste weit über den unmittelbar angegriffenen hinaus.
Fluten mit IoT-Sensordaten
Ein Angreifer nutzt eine unsichere Integration aus, um erfundene Sensor-Ereignisse in einer Schleife an einen Überwachungs-Agenten zu senden; dieser priorisiert die Verarbeitung der Flut gegenüber echten Alarmen und erzeugt so einen blinden Fleck, ohne je physischen Zugriff zu benötigen.
Abwehrmaßnahmen
- Läufe mit einem harten Budget-Kill-Switch begrenzen
- Token / Cost Tracking setzt eine Obergrenze für Ausgaben und Aufrufzahl pro Lauf durch, unabhängig davon, ob ein einzelner Agent sein eigenes Budget überwacht.
- An der Ausführungsgrenze eindämmen und ratenbegrenzen
- Sandbox Execution begrenzt CPU-, Memory- und Systemaufruf-Limits pro Tool-Lauf, und Rate-Limiting deckelt Anfragevolumen und gleichzeitige, KI-initiierte Änderungen.
- Verbrauch agentenübergreifend erfassen, nicht nur pro Agent
- Den kumulativen Ressourcenverbrauch über alle Agenten eines Systems hinweg überwachen, da eine koordinierte Bombardierung für eine Prüfung unsichtbar bleibt, die nur das eigene Kontingent eines Agenten im Blick hat.
- Bei Schwellenüberschreitung automatisch aussetzen
- Automatische Aussetzung jedes Prozesses durchsetzen, der eine vordefinierte Ressourcenverbrauchsschwelle überschreitet, sodass eine außer Kontrolle geratene Schleife eingedämmt wird, bevor sie kaskadiert.