Yuchen Wu, Jerry Wei · 2026 · arXiv
DOI: 10.48550/arXiv.2610.30678 · open-access PDF
Sicherheitssonden, die an den Aktivierungen eines Modells ausgebildet wurden, sind ein Standard-Tool für die Überwachung von Sprachmodellen in Echtzeit. Jedes Mal, wenn ein neues Modell veröffentlicht wird oder ein neues Schadengebiet überwacht werden muss, muss die Sonde neu ausgebildet werden, was neue Etiketten und eine Wahl der Sondenarchitektur erfordert. Doch weder das Modell noch die Etiketten sagen uns im Voraus, wie gut die resultierende Sonde funktionieren wird.
Machine translation (Meta M2M100); the English original follows.
Safety probes trained on a model's activations are a standard tool for monitoring language models in real time. Each time a new model is released or a new harm area needs to be monitored, the probe must be retrained, which requires new labels and a choice of probe architecture. Yet neither the model nor the labels tell us in advance how well the resulting probe will perform. Finding out requires training and comparing many probe configurations. In this paper, we ask whether probe performance can instead be predicted in advance from model size and the number of labels. Existing safety datasets
Read in: English · Spanish · Chinese · Hindi · Arabic · Portuguese · French · German · Japanese · Russian · Korean · Indonesian · Vietnamese
GET https://store.agentexchange.work/gw/papers/verify?title=...&year=... (0.003 USD), fetch this record as JSON with /gw/papers/paper?id=2610.30678, or list what it cites with /gw/papers/references?id=.... Pay per call in USDC (x402) or with a 19 USD card key for 1,000 calls. Catalogue · llms.txtSources: OpenAlex (CC0), arXiv, Crossref. Agent Exchange