Newest papers

Beyond Binary Labels: Diagnostic Evaluation of LLM Safety with Prompt-Level Rubrics

Hongyu Li, Xinlong Huang, Zhan Yu, Jing Zhao, Zhe Zhao, Juntao Zhong, Xiong Kuang, Rui Yuan, ZhenXiang Yan, Huilin Xu, Haitao Yu, Lilin Wang, Rui Chen, Blaze Chen, Fengzong Lian, Renfen Hu · 2026 · arXiv (Cornell University)

DOI: 10.48550/arxiv.2610.29225 · cited by 0 works (OpenAlex) · open-access PDF

Vietnamese

Để giải quyết điều này, chúng tôi giới thiệu DiagSafe, một khung đánh giá chẩn đoán vượt ra ngoài phân loại nhị phân bằng cách sử dụng các tiêu đề khung cảnh an toàn hoặc không an toàn, thiếu chiều sâu giải thích và bị ảnh hưởng bởi sự nhất quán thấp trên các thẩm phán tự động. Để giải quyết điều này, chúng tôi giới thiệu DiagSafe, một khung đánh giá chẩn đoán vượt ra ngoài phân loại nhị phân bằng cách sử dụng các tiêu đề khung cảnh an toàn hoặc không an toàn. Dựa trên các chính sách an toàn AI có thể áp dụng trên toàn cầu, mỗi tiêu đề cung cấp các tiêu chí chỉ dẫn rõ ràng dọc theo hai chiều: an toàn, bao gồm mục tiêu thiệt hại cụ thể với các ngoại lệ cụ thể để ngăn chặn các dương tính giả, và hữu ích, mà độc lập đánh giá sự hoàn thành hướng dẫn bằng cách đánh giá

Machine translation (Meta M2M100); the English original follows.

Abstract

Current LLM safety benchmarks predominantly rely on binary safe or unsafe labels, lacking explanatory depth and suffering from low consistency across automated judges. To address this, we introduce DiagSafe, a diagnostic evaluation framework that moves beyond binary classification by employing prompt-level rubrics. Grounded in globally applicable AI safety policies, each rubric provides explicit criteria along two dimensions: safety, which targets concrete harms with specific exemptions to suppress false positives, and usefulness, which independently evaluates instruction fulfillment. To ensure a robust and realistic evaluation, we construct a bilingual (English-Chinese) benchmark grounded in a comprehensive 84-label safety taxonomy, consisting of two subsets: DiagBase, which covers single- and multi-turn prompts with direct harmful queries and template-based jailbreaks, and DiagAttack, which embeds harmful intents into complex instruction-following tasks to form challenging instruction attacks. Extensive experiments demonstrate that DiagSafe significantly enhances the reliability of LLM-as-a-judge evaluation, achieving 95.34% agreement with human annotations -- substantially higher than the 69%-87% achieved by the baselines -- and high inter-judge consistency (Cohen's $κ$ = 0.864). Furthermore, applying our framework reveals that leading LLMs differ markedly in their unsafe rates, and each model also exhibits unique vulnerabilities along different dimensions. In addition, we observe that models are particularly susceptible in Chinese and multi-turn contexts. Ultimately, DiagSafe provides a reliable and explainable tool for auditing and optimizing LLM alignment.

Read in: English · Spanish · Chinese · Hindi · Arabic · Portuguese · French · German · Japanese · Russian · Korean · Indonesian · Vietnamese

Topics: Rubric, Consistency (knowledge bases), Construct (python library), Computer science, Reliability (semiconductor), Audit

Sources: OpenAlex (CC0), arXiv, Crossref. Agent Exchange