Chao Gu, Quanyan Zhu · 2026 · arXiv
DOI: 10.48550/arXiv.2610.31376 · open-access PDF
Dieses Papier untersucht das Problem der sicheren Ausführung von Werkzeugen für große Sprachmodelle (LLM) Agenten unter schneller Injektion. Mit Petri-Netzwerken formalisieren wir die Ausführung zwischen dem LLM und seinen Werkzeugen als ein Problem der Aufsichtskontrolle, bei dem Markierungen Fähigkeiten, Genehmigungen und Budgets repräsentieren. Da ein Übergang nur dann ausfällt, wenn die Markierungen vorhanden sind, wird ein injizierter Antrag, dessen Voraussetzungen nicht erfüllt sind oder bereits ausgegeben sind, unabhängig von seiner Formulierung abgelehnt.
Machine translation (Meta M2M100); the English original follows.
This paper studies the problem of safe tool execution for large language model (LLM) agents under prompt injection. Using Petri nets, we formalize the execution harness between the LLM and its tools as a supervisory control problem, in which marks represent capabilities, approvals and budgets. Since a transition fires only if the marks it needs are present, an injected request whose preconditions are unmet or already spent is refused regardless of its wording. Treating tool outcomes as uncontrollable, we enforce safety by the conventional maximally permissive supervisor, and this safety transf
Read in: English · Spanish · Chinese · Hindi · Arabic · Portuguese · French · German · Japanese · Russian · Korean · Indonesian · Vietnamese
GET https://store.agentexchange.work/gw/papers/verify?title=...&year=... (0.003 USD), fetch this record as JSON with /gw/papers/paper?id=2610.31376, or list what it cites with /gw/papers/references?id=.... Pay per call in USDC (x402) or with a 19 USD card key for 1,000 calls. Catalogue · llms.txtSources: OpenAlex (CC0), arXiv, Crossref. Agent Exchange