Luca Zanolini · 2026 · arXiv
DOI: 10.48550/arXiv.2610.29178 · open-access PDF
Trước khi một đại lý AI thực hiện một hành động hậu quả, chẳng hạn như thanh toán, nhắn tin hoặc thay đổi mã, một số màn hình kiểm tra nó. phán quyết của họ được kết hợp bằng cách tổng hợp điểm số hoặc bằng cách đếm phê duyệt, bất kể đầu vào của màn hình chia sẻ. Tuy nhiên, các màn hình chia sẻ mô hình cơ bản hoặc đầu vào bị nhiễm độc có thể thất bại cùng nhau. Chúng tôi mượn các hệ thống có khả năng thất bại của máy tính phân tán: danh sách các bộ màn hình có thể thất bại cùng nhau. Một quy tắc an toàn nếu nó không thực hiện hành động xấu và sống nếu nó không chặn một cái tốt.
Machine translation (Meta M2M100); the English original follows.
Before an AI agent takes a consequential action, such as paying, messaging or changing code, several monitors check it. Their verdicts are combined by aggregating scores or by counting approvals, whatever inputs the monitors share. Monitors that share a base model or a poisoned input, however, may fail together. We borrow the fail-prone systems of distributed computing: lists of monitor sets that may fail together. A rule is safe if it executes no bad action and live if it blocks no good one. We measured twelve small open-weights monitors on payment approval under two pre-registered protocols.
Read in: English · Spanish · Chinese · Hindi · Arabic · Portuguese · French · German · Japanese · Russian · Korean · Indonesian · Vietnamese
GET https://store.agentexchange.work/gw/papers/verify?title=...&year=... (0.003 USD), fetch this record as JSON with /gw/papers/paper?id=2610.29178, or list what it cites with /gw/papers/references?id=.... Pay per call in USDC (x402) or with a 19 USD card key for 1,000 calls. Catalogue · llms.txtSources: OpenAlex (CC0), arXiv, Crossref. Agent Exchange