Newest papers

The Show-Up Attack: When Subagents Win Over Their Supervisor

Maosen Zhang, Jianshuo Dong, Yutong Zhang, Jie Zhang, Tianwei Zhang, Han Qiu · 2026 · arXiv (Cornell University)

DOI: 10.48550/arxiv.2610.27574 · cited by 0 works (OpenAlex) · open-access PDF

Hindi

मल्टी-एजेंट सिस्टम को कई बड़े भाषा मॉडल (एलएलएम) एजेंटों को समन्वय करने के लिए तेजी से तैनात किया जाता है। हालांकि, यह भी नए हमले की सतहों का निर्माण करता है: हानिकारक एजेंटों को समन्वय का लाभ उठाने का मौका हो सकता है। इस दस्तावेज़ में, हम \textit{show-up attack} का प्रस्ताव और अध्ययन करते हैं, जिसमें एक हानिकारक उप-एजेंट ने पर्यवेक्षक को अपने समर्पित सीमा से परे कार्यों में शामिल करने के लिए संचालित किया है। इस जोखिम का मूल्यांकन करने के लिए, हम SUA-Arena की पेशकश करते हैं, जिसमें 6 हमले रणनीतियां लागू होती हैं और इसमें 188 परीक्षण मामलों को शामिल किया जाता है। फिर, हम

Machine translation (Meta M2M100); the English original follows.

Abstract

Multi-agent systems are increasingly deployed to coordinate multiple large language model (LLM) agents. However, this also creates new attack surfaces: malicious agents may have chances to exploit the coordination. In this paper, we propose and study the \textit{show-up attack}, in which a malicious subagent manipulates the supervisor into involving it in tasks beyond its assigned scope. To evaluate this risk, we propose SUA-Arena, which implements 6 attack strategies and contains 188 test cases. Then, we evaluate 6 frontier LLMs and find that all of them are vulnerable to show-up attacks. For example, GPT-5.6-Sol as a supervisor suffers an ASR of up to 0.93. Mitigation strategies such as prompting and restricted communication fail to reduce the risk consistently. These results show that multi-agent systems need explicit mechanisms for enforcing authority boundaries.

Read in: English · Spanish · Chinese · Hindi · Arabic · Portuguese · French · German · Japanese · Russian · Korean · Indonesian · Vietnamese

Topics: Supervisor, Exploit, Computer security, Computer science, Test (biology), Key (lock)

Sources: OpenAlex (CC0), arXiv, Crossref. Agent Exchange