Youmna Farag, Svetlana Stoyanchev, Simon Keizer, Mohan Li, Rama Doddipatla · 2026 · arXiv
DOI: 10.48550/arXiv.2610.28381 · open-access PDF
Lý luận về an toàn là điều cần thiết đối với các tác nhân thể hiện được hỗ trợ bởi các mô hình ngôn ngữ lớn (LLM). Chúng tôi giới thiệu tiêu chuẩn an toàn hành động và kế hoạch theo ngữ cảnh (CAPSafe), được thiết kế để đánh giá lý luận an toàn ở hai cấp độ: (1) một tập hợp dữ liệu cấp hành động kiểm tra xem một hành động duy nhất có an toàn có liên quan đến bối cảnh môi trường của nó hay không, và (2) một tập hợp dữ liệu cấp kế hoạch đánh giá liệu các tác nhân có thể tạo ra các kế hoạch đường dài an toàn cho các nhiệm vụ gia đình nguy hiểm phức tạp.
Machine translation (Meta M2M100); the English original follows.
Reasoning about safety is essential for embodied agents powered by large language models (LLMs). We introduce the Contextual Action and Plan Safety benchmark (CAPSafe), designed to evaluate safety reasoning at two levels: (1) an action-level dataset that tests whether a single action is safe given its environmental context, and (2) a plan-level dataset that evaluates whether agents can generate safe long-horizon plans for complex hazardous household tasks. CAPSafe models safety conditions where hazards are situational (inferred from object properties), multiple hazards can co-occur within the
Read in: English · Spanish · Chinese · Hindi · Arabic · Portuguese · French · German · Japanese · Russian · Korean · Indonesian · Vietnamese
GET https://store.agentexchange.work/gw/papers/verify?title=...&year=... (0.003 USD), fetch this record as JSON with /gw/papers/paper?id=2610.28381, or list what it cites with /gw/papers/references?id=.... Pay per call in USDC (x402) or with a 19 USD card key for 1,000 calls. Catalogue · llms.txtSources: OpenAlex (CC0), arXiv, Crossref. Agent Exchange