Newest papers

Accountable partial understanding: securing the epistemic attack surface of agentic systems

Josiah Dykstra · 2026 · arXiv

DOI: 10.48550/arXiv.2610.26799 · open-access PDF

Russian

Нападающие извлекают выгоду из того, что защитники не понимают. Безопасность программного обеспечения рассматривает разрыв между поведением системы и пониманием человека как условие для сужения через анализ и обеспечение, резервируя остаток в качестве принятого риска. Агентские ИИ-системы меняют этот разрыв: когда программное обеспечение читает, пишет, объясняет и авторизует поведение, относящееся к безопасности, частичное понимание движется быстрее, становится более непрозрачным и связывается с делегированной властью. Эта статья характеризует возникающую эпистемическую поверхность атаки и представляет таксономию четырех взаимодействующих категорий атак, которые направлены на интерпретацию

Machine translation (Meta M2M100); the English original follows.

Abstract

Attackers profit from what defenders do not understand. Software security has treated the gap between system behavior and human comprehension as a condition to narrow through analysis and assurance, booking the remainder as accepted risk. Agentic AI systems change that gap: when software reads, writes, explains, and authorizes security-relevant behavior, partial understanding moves faster, grows more opaque, and couples to delegated authority. This paper characterizes the resulting epistemic attack surface and presents a taxonomy of four interacting attack categories, which target the interpre

Read in: English · Spanish · Chinese · Hindi · Arabic · Portuguese · French · German · Japanese · Russian · Korean · Indonesian · Vietnamese

Sources: OpenAlex (CC0), arXiv, Crossref. Agent Exchange