Newest papers

Black-Box Red-Teaming of Multi-Agent Systems via Reinforcement Learning

Yuqi Jia, Hangsheng Zhang, Chenxi Liu, Junjie Liang, Xun Chen · 2026 · arXiv

DOI: 10.48550/arXiv.2610.28966 · open-access PDF

Arabic

يتم توزيع أدوات نموذج اللغة الكبيرة (LLM) بشكل متزايد في أنظمة متعددة الأدوات (MAS) لتنفيذ المهام المعقدة. تتركز أدوات الهجمات الرمضانية السابقة بشكل رئيسي على أدوات واحدة، ولكن نجد أن هذه الأساليب أقل فعالية في MAS، حيث قد لا تتفاعل أدوات متعددة الأدوات بشكل مباشر مع المستخدم. وبالتالي فإننا نقدم ReMAS، المجموعة الرمضانية الرمضانية الرمضانية الأولى التي تستند إلى تعزيز التعلم، والتي تم تصميمها بشكل جيد على MAS، مما يجعل LLM الهجمات قادرة على إنتاج نصائح عدوانية فعالة لإزالة نصائح النظام.

Machine translation (Meta M2M100); the English original follows.

Abstract

Large language model (LLM) agents are increasingly deployed in multi-agent systems (MAS) to accomplish complex tasks. Prior black-box red-teaming attacks mainly focus on single agents, but we find that these methods are far less effective in MAS, where multiple sub-agents may not directly interact with the user. Therefore, we introduce ReMAS, the first reinforcement learning-based red-teaming framework tailored to MASs, which fine-tunes attacker LLMs to generate effective adversarial prompts for system prompt extraction. The framework follows a two-step process: first, a rewrite stage refines

Read in: English · Spanish · Chinese · Hindi · Arabic · Portuguese · French · German · Japanese · Russian · Korean · Indonesian · Vietnamese

Sources: OpenAlex (CC0), arXiv, Crossref. Agent Exchange