Newest papers

Context-Aware Prompt Injection Detection via Small Language Models in RAG Pipelines: nokast-secureRAG

Abhishek Rai · 2026 · arXiv

DOI: 10.48550/arXiv.2610.28364 · open-access PDF

Russian

Локальные системы RAG (Local Retrieval-Augmented Generation) уязвимы к индиректному инъекционному инъекционному и инъекционному отравлению, где вредоносные инструкции в восстановленном контенте ошибочно относятся к надежному вводу. Мы представляем nokast-secureRAG, небольшую языковую модель с параметром примерно 0,5B, которая выступает в качестве семантической брандмауэра между восстановлением и генерацией. Она совместно оценивает запрос пользователя и восстановленный контекст, классифицируя пару как безопасную, подозрительную или вредоносную. Модель обучается с помощью трубопровода учитель-судья-студент: учитель 35B генерирует 5,233 примера в четырех

Machine translation (Meta M2M100); the English original follows.

Abstract

Local Retrieval-Augmented Generation (RAG) systems are vulnerable to indirect prompt injection and retrieval poisoning, where malicious instructions in retrieved content are mistaken for trusted input. We present nokast-secureRAG, a roughly 0.5B-parameter small language model that acts as a semantic firewall between retrieval and generation. It jointly evaluates the user query and retrieved context, classifying the pair as safe, suspicious, or malicious. The model is trained using a teacher-judge-student pipeline: a 35B teacher generates 5,233 examples across four attack families, and an indep

Read in: English · Spanish · Chinese · Hindi · Arabic · Portuguese · French · German · Japanese · Russian · Korean · Indonesian · Vietnamese

Sources: OpenAlex (CC0), arXiv, Crossref. Agent Exchange