Newest papers

KNOX: Hardware-assisted Regulatory Sandbox for Generative Models

Vasisht Duddu, Adam Caulfield, Xi He · 2026 · arXiv

DOI: 10.48550/arXiv.2610.27543 · open-access PDF

Russian

Регламенты требуют, чтобы компании запускали модели ИИ в регуляторном песочнице, изолированной среде, которая позволяет контролировать поведение модели регуляторами, до развертывания. Но они не описывают технические механизмы для проектирования такого песочника. В идеале, регуляторный песочник должен демонстрировать (i) соответствие (проверки против правил и отклонения от предполагаемого поведения, т.е. несанкционированные инструменты и системные вызовы); (ii) конфиденциальность (защищает весы моделей от регуляторов); (iii) аттестационность (производит модификационные доказательства поведения модели для мониторинга); и (iv) масштабируемость (доказательства).

Machine translation (Meta M2M100); the English original follows.

Abstract

Regulations require companies to run AI models in a regulatory sandbox, an isolated environment that enables monitoring model behavior by regulators, prior to deployment. But, they do not spell out the technical mechanisms to design such a sandbox. Ideally, a regulatory sandbox should show (i) compliance (checks against regulations, and deviations from intended behavior, i.e., unauthorized tool and system calls); (ii) confidentiality (protects model weights from regulators); (iii) attestability (produces tamper-resistant evidence of model behavior for monitoring); and (iv) scalability (evidenc

Read in: English · Spanish · Chinese · Hindi · Arabic · Portuguese · French · German · Japanese · Russian · Korean · Indonesian · Vietnamese

Sources: OpenAlex (CC0), arXiv, Crossref. Agent Exchange