Newest papers

Context-Aware Prompt Injection Detection via Small Language Models in RAG Pipelines: nokast-secureRAG

Abhishek Rai · 2026 · arXiv

DOI: 10.48550/arXiv.2610.28364 · open-access PDF

Hindi

Local Retrieval-Augmented Generation (RAG) सिस्टम अप्रत्यक्ष तत्काल इंजेक्शन और पुनर्प्राप्ति विषाक्तता के लिए संवेदनशील हैं, जहां पुनर्प्राप्त सामग्री में बुरा निर्देश विश्वसनीय इनपुट के लिए गलत हैं। हम nokast-secureRAG, एक लगभग 0.5B-पारमेटर छोटे भाषा मॉडल प्रस्तुत करते हैं जो पुनर्प्राप्ति और जनरेटिंग के बीच एक सेमेंटिक फायरवॉल के रूप में कार्य करता है। यह संयुक्त रूप से उपयोगकर्ता पूछताछ और पुनर्प्राप्त संदर्भ का मूल्यांकन करता है, जो जोड़ी को सुरक्षित, संदिग्ध, या बुरी तरह से वर्गीकृत करता है। मॉडल को एक शिक्षक-सत्वेदक-छात्र पाइपलाइन का उपयोग करके प्रशिक्षित किया जाता है: एक 35B शिक्षक चार हमले परिवारों

Machine translation (Meta M2M100); the English original follows.

Abstract

Local Retrieval-Augmented Generation (RAG) systems are vulnerable to indirect prompt injection and retrieval poisoning, where malicious instructions in retrieved content are mistaken for trusted input. We present nokast-secureRAG, a roughly 0.5B-parameter small language model that acts as a semantic firewall between retrieval and generation. It jointly evaluates the user query and retrieved context, classifying the pair as safe, suspicious, or malicious. The model is trained using a teacher-judge-student pipeline: a 35B teacher generates 5,233 examples across four attack families, and an indep

Read in: English · Spanish · Chinese · Hindi · Arabic · Portuguese · French · German · Japanese · Russian · Korean · Indonesian · Vietnamese

Sources: OpenAlex (CC0), arXiv, Crossref. Agent Exchange