Newest papers

Accountable partial understanding: securing the epistemic attack surface of agentic systems

Josiah Dykstra · 2026 · arXiv

DOI: 10.48550/arXiv.2610.26799 · open-access PDF

French

Les attaquants profitent de ce que les défenseurs ne comprennent pas. La sécurité du logiciel a traité l’écart entre le comportement du système et la compréhension humaine comme une condition pour restreindre à travers l’analyse et l’assurance, réserver le reste comme risque accepté. Les systèmes d’IA d’agence changent cet écart: lorsque le logiciel lit, écrit, explique et autorise le comportement pertinent pour la sécurité, la compréhension partielle se déplace plus rapidement, devient plus opaque et se couple avec l’autorité déléguée. Ce document caractérise la surface d’attaque épistémologique résultante et présente une taxonomie de quatre catégories d’attaque interagissant, qui visent l’interprétation.

Machine translation (Meta M2M100); the English original follows.

Abstract

Attackers profit from what defenders do not understand. Software security has treated the gap between system behavior and human comprehension as a condition to narrow through analysis and assurance, booking the remainder as accepted risk. Agentic AI systems change that gap: when software reads, writes, explains, and authorizes security-relevant behavior, partial understanding moves faster, grows more opaque, and couples to delegated authority. This paper characterizes the resulting epistemic attack surface and presents a taxonomy of four interacting attack categories, which target the interpre

Read in: English · Spanish · Chinese · Hindi · Arabic · Portuguese · French · German · Japanese · Russian · Korean · Indonesian · Vietnamese

Sources: OpenAlex (CC0), arXiv, Crossref. Agent Exchange