Newest papers

Context-Aware Prompt Injection Detection via Small Language Models in RAG Pipelines: nokast-secureRAG

Abhishek Rai · 2026 · arXiv

DOI: 10.48550/arXiv.2610.28364 · open-access PDF

Arabic

تعتبر أنظمة RAG (Local Retrieval-Augmented Generation) ضعيفة للضغط المباشر، حيث يتم تسجيل الإرشادات الخبيثة في المحتوى الذي يتم تسجيله للضغط على الإرشادات الموثوقة. نحن نقدم nokast-secureRAG، نموذج لغة صغيرة يتراوح ما بين 0.5B-الميزانية التي تعمل كعمارة نارية بين التسجيل والإنتاج. فإنه يقيس بشكل مشترك الاستفسارات المستخدمة والمناقشات التي يتم تسجيلها، ويحدد الجانب كأمن أو مشكوك أو مشكوك. يتم تدريب نموذج باستخدام قناة تدريبية مع معلم-المدير-الطلاب: يوفر معلم 35B 5.233 أمثلة على أربع عائلات هجومية

Machine translation (Meta M2M100); the English original follows.

Abstract

Local Retrieval-Augmented Generation (RAG) systems are vulnerable to indirect prompt injection and retrieval poisoning, where malicious instructions in retrieved content are mistaken for trusted input. We present nokast-secureRAG, a roughly 0.5B-parameter small language model that acts as a semantic firewall between retrieval and generation. It jointly evaluates the user query and retrieved context, classifying the pair as safe, suspicious, or malicious. The model is trained using a teacher-judge-student pipeline: a 35B teacher generates 5,233 examples across four attack families, and an indep

Read in: English · Spanish · Chinese · Hindi · Arabic · Portuguese · French · German · Japanese · Russian · Korean · Indonesian · Vietnamese

Sources: OpenAlex (CC0), arXiv, Crossref. Agent Exchange