Newest papers

Adversarial Benchmarks and BenchDoor Attacks: Exploiting Benchmark Incentives for Backdoor Attacks

Yixin Wu, Rachel Hong, Jamie Morgenstern, Tadayoshi Kohno · 2026 · arXiv

DOI: 10.48550/arXiv.2610.27533 · open-access PDF

Japanese

機械学習ベンチマークはモデル開発のためのガイドポストとして機能し、ベンチマークのスコアを改善するためのトレーニングデータセットの作成を促進します。我々は、このインセンティブを活用するデータ中毒攻撃のファミリーであるBenchDoorを導入します。良性のパフォーマンスを維持することに加えて、BenchDoorはベンチマークの獲得を必要とし、またバックドアをインプラントするデータの採用を奨励します。

Machine translation (Meta M2M100); the English original follows.

Abstract

Machine learning benchmarks act as guideposts for model development and spur the creation of training datasets intended to improve benchmark scores. We introduce BenchDoor, a family of data poisoning attacks that exploits this incentive. Beyond preserving benign performance, BenchDoor requires benchmark gains that encourage adoption of data that also implants a backdoor. The adversary either manipulates a benchmark's training or test data, creating an adversarial benchmark, or supplies an independent training dataset while leaving the benchmark unchanged. We formalize five attack scenarios, in

Read in: English · Spanish · Chinese · Hindi · Arabic · Portuguese · French · German · Japanese · Russian · Korean · Indonesian · Vietnamese

Sources: OpenAlex (CC0), arXiv, Crossref. Agent Exchange