Newest papers

Honeypots for AI Agent Insider Threats

Jan Wehner, Jam Kraprayoon · 2026 · arXiv (Cornell University)

DOI: 10.48550/arxiv.2610.26664 · cited by 0 works (OpenAlex) · open-access PDF

Vietnamese

Các đại lý AI được triển khai bên trong các tổ chức có thể tạo ra mối đe dọa bên trong nếu họ phạm sai lầm, bị tấn công, hoặc theo đuổi các mục tiêu không phù hợp. Chúng tôi đề xuất honeypots như một phương pháp kiểm soát AI để cải thiện sự an toàn của việc triển khai các đại lý bên trong. Thay vì chỉ sử dụng honeypots cho các đánh giá trước khi triển khai, những người bảo vệ nên trồng cơ hội cho các hành động có hại trên toàn bộ môi trường sản xuất để phát hiện hành vi sai trái, tố cáo các đại lý độc hại và ngăn chặn các cuộc tấn công. Những honeypots như vậy có thể gây ra hành vi sai trái trong điều kiện triển khai thực tế, xác định các đại lý độc hại ngay cả khi khả năng giám sát chuỗi suy nghĩ suy giảm, cung cấp cảnh báo đáng tin cậy về hành vi sai trái của đại lý cho

Machine translation (Meta M2M100); the English original follows.

Abstract

AI agents deployed inside organizations can pose an insider threat if they make mistakes, are compromised by an attacker, or pursue misaligned objectives. We propose honeypots as an AI control method to improve the security of internal agent deployments. Rather than only using honeypots for pre-deployment evaluations, defenders should plant decoy opportunities for harmful actions throughout the production environment to detect misbehavior, incriminate malicious agents, and deter attacks. Such honeypots can elicit misbehavior under real deployment conditions, identify malicious agents even if chain-of-thought monitorability degrades, provide reliable warnings about agent misbehavior to security teams, and scale cheaply to many agent instances. The presence of honeypots also introduces uncertainty about which opportunities are real, thus deterring malicious agents from attacking and reducing the rate of misbehavior. We discuss the limitations of honeypots and give reasons to expect them to remain effective as agent capabilities increase. Finally, we outline key research questions to measure and improve the effectiveness of honeypots: testing the robustness of honeypots, comparing their detection effectiveness with other monitoring methods, understanding their incrimination and deterrence effects, and building supporting infrastructure.

Read in: English · Spanish · Chinese · Hindi · Arabic · Portuguese · French · German · Japanese · Russian · Korean · Indonesian · Vietnamese

Topics: Honeypot, Computer security, Insider, Computer science, Software deployment, Deterrence theory

Sources: OpenAlex (CC0), arXiv, Crossref. Agent Exchange