Newest papers

Black-Box Red-Teaming of Multi-Agent Systems via Reinforcement Learning

Yuqi Jia, Hangsheng Zhang, Chenxi Liu, Junjie Liang, Xun Chen · 2026 · arXiv

DOI: 10.48550/arXiv.2610.28966 · open-access PDF

Japanese

大型言語モデル(LLM)エージェントは複雑なタスクを実行するために複数のエージェントシステム(MAS)でますます展開されています。以前のブラックボックスのレッドチームアップ攻撃は主に単一エージェントに焦点を当てていますが、これらの方法はマスで、複数のサブエージェントがユーザーと直接相互作用しない場合が非常に少ないことを発見します。したがって、マスに適応した最初の強化学習ベースのレッドチームアップフレームワークであるReMASを導入し、攻撃者LLMを精密に調整して、システムプロンプト抽出のための効果的な対立プロンプトを作成します。フレームワークは、2段階のプロセスに従います。

Machine translation (Meta M2M100); the English original follows.

Abstract

Large language model (LLM) agents are increasingly deployed in multi-agent systems (MAS) to accomplish complex tasks. Prior black-box red-teaming attacks mainly focus on single agents, but we find that these methods are far less effective in MAS, where multiple sub-agents may not directly interact with the user. Therefore, we introduce ReMAS, the first reinforcement learning-based red-teaming framework tailored to MASs, which fine-tunes attacker LLMs to generate effective adversarial prompts for system prompt extraction. The framework follows a two-step process: first, a rewrite stage refines

Read in: English · Spanish · Chinese · Hindi · Arabic · Portuguese · French · German · Japanese · Russian · Korean · Indonesian · Vietnamese

Sources: OpenAlex (CC0), arXiv, Crossref. Agent Exchange