Newest papers

Safety Mid-Training: Internalizing LLM Safety as a Foundational Capability

Zhengyue Zhao, Liwei Jiang, Yejin Choi, Chaowei Xiao1 · 2026 · arXiv

DOI: 10.48550/arXiv.2610.26809 · open-access PDF

German

Die Sicherheitsanpassung für große Sprachmodelle (LLMs) wird hauptsächlich während des Post-Trainings durchgeführt, während die jüngste Arbeit auch begonnen hat, Sicherheitsdaten in das Vor-Training einzubeziehen. Dennoch kann die Sicherheit abgebaut werden, wenn die spätere Ausbildung keine Sicherheitsdaten mehr enthält, und Sicherheitsgewinne kommen oft auf Kosten der allgemeinen Fähigkeit. Diese Spannung legt nahe, dass Sicherheit und allgemeine Argumentation nicht als getrennte Trainingsziele behandelt werden sollten. Stattdessen betrachten wir Sicherheit als eine LLM-Fähigkeit, die durch eine Argumentationsstruktur gelernt werden kann, die mit allgemeinen Aufgaben geteilt wird. Beide erfordern das Modell, Absicht oder Aufgabenziele zu verstehen,

Machine translation (Meta M2M100); the English original follows.

Abstract

Safety alignment for large language models (LLMs) is primarily performed during post-training, while recent work has also begun incorporating safety data into pre-training. Yet safety can degrade when later training no longer includes safety data, and gains in safety often come at the cost of general capability. This tension suggests that safety and general reasoning should not be treated as separate training goals. We instead view safety as an LLM capability that can be learned through a reasoning structure shared with general tasks. Both require the model to understand intent or task goals,

Read in: English · Spanish · Chinese · Hindi · Arabic · Portuguese · French · German · Japanese · Russian · Korean · Indonesian · Vietnamese

Sources: OpenAlex (CC0), arXiv, Crossref. Agent Exchange