Newest papers

Adversarial Benchmarks and BenchDoor Attacks: Exploiting Benchmark Incentives for Backdoor Attacks

Yixin Wu, Rachel S. Hong, Jamie Morgenstern, Tadayoshi Kohno · 2026 · arXiv (Cornell University)

DOI: 10.48550/arxiv.2610.27533 · cited by 0 works (OpenAlex) · open-access PDF

Vietnamese

BenchDoor, một gia đình các cuộc tấn công độc hại dữ liệu khai thác động lực này. Ngoài việc duy trì hiệu suất lành mạnh, BenchDoor đòi hỏi các chiến thắng tham chiếu khuyến khích việc áp dụng dữ liệu cũng như cấy ghép backdoor. Đối thủ hoặc thao túng việc đào tạo điểm chuẩn hoặc dữ liệu thử nghiệm, tạo điểm chuẩn đối thủ, hoặc cung cấp một tập hợp dữ liệu đào tạo độc lập trong khi vẫn giữ điểm chuẩn không thay đổi. Chúng tôi chính thức hóa năm kịch bản tấn công, bao gồm đào tạo về các ví dụ thử nghiệm được viết lại và áp dụng khử trùng dựa trên sự tương đồng. Thông qua nhiều lựa chọn Q&A, phân loại văn bản và Q&A mở với các mô hình Qwen và Gemmama, BenchDoor đạt được lợi ích điểm chuẩn tích cực cho tất cả 30 cấu hình được đánh giá, với tỷ lệ thành công

Machine translation (Meta M2M100); the English original follows.

Abstract

Machine learning benchmarks act as guideposts for model development and spur the creation of training datasets intended to improve benchmark scores. We introduce BenchDoor, a family of data poisoning attacks that exploits this incentive. Beyond preserving benign performance, BenchDoor requires benchmark gains that encourage adoption of data that also implants a backdoor. The adversary either manipulates a benchmark's training or test data, creating an adversarial benchmark, or supplies an independent training dataset while leaving the benchmark unchanged. We formalize five attack scenarios, including training on rewritten test examples and applying similarity-based decontamination. Across multiple-choice Q&A, text classification, and open-ended Q&A with Qwen and Gemma models, BenchDoor achieves positive benchmark gains for all 30 evaluated configurations, with held-out attack success rates of 82.33% to 100.00% at poisoning rates of 2% to 10%. Both objectives remain achievable after synthetic data generation and similarity-based decontamination, with attack success rates of at least 90.33%. These findings show how benchmarks can serve as attack vectors both through their own data and through training resources that deliver improvements on them.

Read in: English · Spanish · Chinese · Hindi · Arabic · Portuguese · French · German · Japanese · Russian · Korean · Indonesian · Vietnamese

Topics: Benchmark (surveying), Backdoor, Exploit, Adversarial system, Computer science, Adversary

Sources: OpenAlex (CC0), arXiv, Crossref. Agent Exchange