Newest papers

Context-Aware Prompt Injection Detection via Small Language Models in RAG Pipelines: nokast-secureRAG

Abhishek Rai · 2026 · arXiv

DOI: 10.48550/arXiv.2610.28364 · open-access PDF

Portuguese

Sistemas locais de geração aumentada de recuperação (RAG) são vulneráveis à injeção instantânea indireta e intoxicação de recuperação, onde as instruções maliciosas no conteúdo recuperado são confundidas com a entrada confiável. Nós apresentamos o nokast-secureRAG, um modelo de pequeno idioma de aproximadamente 0,5B-parâmetro que atua como um firewall semântico entre a recuperação e a geração. Ele avalia conjuntamente a consulta do usuário e o contexto recuperado, classificando o par como seguro, suspeito ou malicioso. O modelo é treinado usando um pipeline professor-julgador-aluno: um professor 35B gera 5.233 exemplos em quatro famílias de ataque, e um indep

Machine translation (Meta M2M100); the English original follows.

Abstract

Local Retrieval-Augmented Generation (RAG) systems are vulnerable to indirect prompt injection and retrieval poisoning, where malicious instructions in retrieved content are mistaken for trusted input. We present nokast-secureRAG, a roughly 0.5B-parameter small language model that acts as a semantic firewall between retrieval and generation. It jointly evaluates the user query and retrieved context, classifying the pair as safe, suspicious, or malicious. The model is trained using a teacher-judge-student pipeline: a 35B teacher generates 5,233 examples across four attack families, and an indep

Read in: English · Spanish · Chinese · Hindi · Arabic · Portuguese · French · German · Japanese · Russian · Korean · Indonesian · Vietnamese

Sources: OpenAlex (CC0), arXiv, Crossref. Agent Exchange