Chao Gu, Quanyan Zhu · 2026 · arXiv
DOI: 10.48550/arXiv.2610.31376 · open-access PDF
이 논문은 빠른 주입을 통해 대형 언어 모델 (LLM) 에이전트를위한 안전한 도구 실행의 문제를 연구합니다. Petri 네트워크를 사용하여 우리는 LLM과 그 도구 사이의 실행 허브를 감독 제어 문제로 공식화합니다. 마크는 능력, 승인 및 예산을 나타냅니다. 전환이 필요한 마크가 존재하는 경우에만 화재하기 때문에, 사전 조건이 충족되지 않거나 이미 지출 된 주입 요청은 그 문구에 상관없이 거부됩니다. 도구 결과를 통제 할 수없는 것으로 취급함으로써 우리는 전통적인 최대 허용 감독에 의해 안전을 강요하며,이 안전 전환
Machine translation (Meta M2M100); the English original follows.
This paper studies the problem of safe tool execution for large language model (LLM) agents under prompt injection. Using Petri nets, we formalize the execution harness between the LLM and its tools as a supervisory control problem, in which marks represent capabilities, approvals and budgets. Since a transition fires only if the marks it needs are present, an injected request whose preconditions are unmet or already spent is refused regardless of its wording. Treating tool outcomes as uncontrollable, we enforce safety by the conventional maximally permissive supervisor, and this safety transf
Read in: English · Spanish · Chinese · Hindi · Arabic · Portuguese · French · German · Japanese · Russian · Korean · Indonesian · Vietnamese
GET https://store.agentexchange.work/gw/papers/verify?title=...&year=... (0.003 USD), fetch this record as JSON with /gw/papers/paper?id=2610.31376, or list what it cites with /gw/papers/references?id=.... Pay per call in USDC (x402) or with a 19 USD card key for 1,000 calls. Catalogue · llms.txtSources: OpenAlex (CC0), arXiv, Crossref. Agent Exchange