Newest papers

Budgeted Attack Scheduling for LLM Red-Teaming: The Roles of Static Priors, Semantic Guidance, and Online Feedback

Zhicheng Fang, Han Sun, Jiachen Lei, Xinyi Fang, Zongmin Zhang, Chenxu Fu, Sizhe Fang, Wei Xu · 2026 · arXiv (Cornell University)

DOI: 10.48550/arxiv.2610.25897 · cited by 0 works (OpenAlex) · open-access PDF

Vietnamese

Khi các nhà lập kế hoạch lập kế hoạch đánh bại chế độ chống lại các mô hình ngôn ngữ lớn (LLMs) ngày càng trở nên đa dạng hơn, Red-teaming đã trở nên dựa vào các thư viện lớn của các yêu cầu chuyển nhượng và các chiến lược tấn công hướng dẫn để đánh giá độ bền của các mô hình phản hồi của nạn nhân và các thiết lập phòng thủ của họ. Tuy nhiên, hiệu quả của các cuộc tấn công rất phụ thuộc vào điều kiện: một cuộc tấn công thành công trong một thiết lập phòng chống nạn nhân có thể thất bại dưới một thiết lập khác, trong khi đánh giá toàn diện thư viện tấn công đầy đủ cho mỗi thiết lập gây ra chi phí token và tiền tệ đáng kể. Điều này thúc đẩy việc nghiên cứu cách các cuộc tấn công đánh bại nên được ưu tiên dưới một ngân sách cố gắng hạn chế để đánh giá độ bền hiệu quả. Trong công việc này, chúng

Machine translation (Meta M2M100); the English original follows.

Abstract

As jailbreak attacks against large language models (LLMs) become increasingly diverse, red-teaming has come to rely on large libraries of jailbreak prompts and attack strategies to evaluate the robustness of victim models and their defense settings. However, attack effectiveness is highly condition-dependent: an attack that succeeds under one victim-defense setting may fail under another, while exhaustively evaluating the full attack library for each setting incurs substantial token and monetary costs. This motivates studying how jailbreak attacks should be prioritized under a limited attempt budget for efficient robustness evaluation. In this work, we formalize this problem as budgeted attack scheduling over a fixed attack library and investigate three complementary signals under a fixed victim-defense condition: (1) static historical attack success rate (ASR) priors; (2) semantic guidance from LLMs; and (3) online feedback from earlier queries. Building on these signals, we design four scheduling strategies and evaluate them across three victim models and three defense settings on GPT-5.2. Extensive experiments clearly characterize the conditions under which each signal is most effective. Historical ASR provides a strong initialization, but its reliability degrades under defense-induced distribution shifts. Semantic guidance consistently improves or matches static prior-based scheduling in the cold-start regime, while online feedback becomes particularly valuable when transferred priors become stale. Semantic guidance and online feedback can also partially compensate for missing historical priors. Taken together, these findings characterize budgeted red-teaming as an attack scheduling problem in which historical priors, semantic guidance, and online feedback play complementary roles.

Read in: English · Spanish · Chinese · Hindi · Arabic · Portuguese · French · German · Japanese · Russian · Korean · Indonesian · Vietnamese

Topics: Computer science, Scheduling (production processes), Robustness (evolution), Security token, Computer security, Attack model

Sources: OpenAlex (CC0), arXiv, Crossref. Agent Exchange