Luca Zanolini · 2026 · arXiv
DOI: 10.48550/arXiv.2610.29178 · open-access PDF
Bevor ein KI-Agent eine Konsequenzmaßnahme ergreift, wie z. B. Bezahlen, Nachrichten senden oder Code ändern, überprüfen mehrere Monitore es. Ihre Urteile werden durch Aggregation von Scores oder durch Zählen von Genehmigungen kombiniert, unabhängig von den Einträgen, die die Monitore teilen. Monitore, die ein Basismodell oder einen vergifteten Eingang teilen, können jedoch zusammen scheitern. Wir leihen die fehleranfälligen Systeme des verteilten Computers aus: Listen von Monitor-Set, die zusammen scheitern können. Eine Regel ist sicher, wenn sie keine schlechte Aktion ausführt und lebt, wenn sie keine gute blockiert.
Machine translation (Meta M2M100); the English original follows.
Before an AI agent takes a consequential action, such as paying, messaging or changing code, several monitors check it. Their verdicts are combined by aggregating scores or by counting approvals, whatever inputs the monitors share. Monitors that share a base model or a poisoned input, however, may fail together. We borrow the fail-prone systems of distributed computing: lists of monitor sets that may fail together. A rule is safe if it executes no bad action and live if it blocks no good one. We measured twelve small open-weights monitors on payment approval under two pre-registered protocols.
Read in: English · Spanish · Chinese · Hindi · Arabic · Portuguese · French · German · Japanese · Russian · Korean · Indonesian · Vietnamese
GET https://store.agentexchange.work/gw/papers/verify?title=...&year=... (0.003 USD), fetch this record as JSON with /gw/papers/paper?id=2610.29178, or list what it cites with /gw/papers/references?id=.... Pay per call in USDC (x402) or with a 19 USD card key for 1,000 calls. Catalogue · llms.txtSources: OpenAlex (CC0), arXiv, Crossref. Agent Exchange