Newest papers

Preventing Model Extraction in Contextual Linear Optimization

Adam N. Elmachtoub, Tianyi Lin, Wenxuan Liu · 2026 · arXiv (Cornell University)

DOI: 10.48550/arxiv.2610.29918 · cited by 0 works (OpenAlex) · open-access PDF

Vietnamese

Hãy xem xét một vấn đề tối ưu hóa dữ liệu tuyến tính ngữ cảnh, nơi một hệ thống dự đoán sau đó tối ưu hóa (PTO) trả về quyết định tối ưu mà không tiết lộ các vector chi phí cơ bản được sử dụng trong chương trình tuyến tính xuống. Tập trung của chúng tôi là làm thế nào để ngăn chặn những kẻ tấn công, những người có thể gửi các truy vấn ngữ cảnh, từ việc trích xuất mô hình dự đoán cơ bản. Mặc dù bản đồ chi phí đến quyết định là nhiều-to-một, quan sát qua các ngữ cảnh có thể tiết lộ mô hình dự đoán cơ bản. Đối với các mô hình tuyến tính, chúng tôi cung cấp các điều kiện đầy đủ trong đó kẻ tấn công có thể học được mô hình lên đến quy mô tích cực chỉ bằng cách quan sát quyết định. Những điều kiện này thúc đẩy một cuộc tấn công thích nghi thay thế tối ưu hóa ngược với việc lấy mẫu

Machine translation (Meta M2M100); the English original follows.

Abstract

Consider a contextual linear optimization problem, where a predict-then-optimize (PTO) system returns optimal decisions without revealing the cost vectors used in its downstream linear program. Our focus is on how to prevent attackers, who can submit context queries, from extracting the underlying prediction model. Although the cost-to-decision map is many-to-one, observations across contexts can reveal the underlying prediction model. For linear models, we provide sufficient conditions where the attacker can learn the model up to positive scaling by only observing the decision. These conditions motivate an adaptive attack that alternates inverse optimization with boundary sampling, i.e., using context queries leading to decision boundaries of the current attacker model. To prevent extraction, we propose a mechanism that perturbs decisions only when the predicted cost vector is near a decision boundary. We establish a regret bound in terms of the perturbation radius. For the attackers that fit the defended responses as optimal decisions under the evaluation distribution, we also prove a lower bound on expected extraction error. Experiments on synthetic instances and real data quantify the security-performance trade-off of the defense mechanism and illustrate that our defense can increase the extraction error.

Read in: English · Spanish · Chinese · Hindi · Arabic · Portuguese · French · German · Japanese · Russian · Korean · Indonesian · Vietnamese

Topics: Regret, Computer science, Context (archaeology), Mathematical optimization, Linear programming, Data mining

Sources: OpenAlex (CC0), arXiv, Crossref. Agent Exchange