Isaac Gibbs, Elise L. Han, Ryan J. Tibshirani, Tijana Zrnic · 2026 · arXiv
DOI: 10.48550/arXiv.2610.31662 · open-access PDF
우리는 AI 시스템의 온라인 모니터링을 고려하여 결정의 순서를 생성합니다. 각 라운드에서 시스템은 결정의 신뢰성을 평가하는 신뢰 점수와 함께 제안된 결정을 출력합니다. 결정과 신뢰 점수는 동일한 모델에 의해 생성될 필요가 없습니다 : 예를 들어, 한 에이전트가 결정을 제안할 수 있으며, 별도의 검증 에이전트가 그것을 평가하고 정확성 또는 안전 점수를 출력합니다.이 정보를 바탕으로 우리는 AI 결정을 자동으로 받아들이는지 또는 제안을 검토하는 인간 감사와 같은 전문가와 상담하는지 결정해야합니다.
Machine translation (Meta M2M100); the English original follows.
We consider online monitoring of an AI system that produces a sequence of decisions. At each round, the system outputs a proposed decision together with a confidence score estimating the trustworthiness of the decision. The decision and confidence score need not be produced by the same model: for example, one agent may propose a decision, while a separate verifier agent evaluates it and outputs a correctness or safety score. Based on this information, we must decide whether to accept the AI decision automatically or consult an expert, such as a human auditor, who reviews the proposal and eithe
Read in: English · Spanish · Chinese · Hindi · Arabic · Portuguese · French · German · Japanese · Russian · Korean · Indonesian · Vietnamese
GET https://store.agentexchange.work/gw/papers/verify?title=...&year=... (0.003 USD), fetch this record as JSON with /gw/papers/paper?id=2610.31662, or list what it cites with /gw/papers/references?id=.... Pay per call in USDC (x402) or with a 19 USD card key for 1,000 calls. Catalogue · llms.txtSources: OpenAlex (CC0), arXiv, Crossref. Agent Exchange