Newest papers

LEAN: Loss-Engineered Modulation of the Model Weight-Sensitivity Distribution for Efficient, Error-Tolerant Neural Networks

Habibur Rahaman, Swarup Bhunia · 2026 · arXiv

DOI: 10.48550/arXiv.2610.28872 · open-access PDF

German

Die Gewichte eines trainierten Netzwerks haben keine einheitliche Empfindlichkeit gegenüber der Modellgenauigkeit: Die 1% empfindlichsten Gewichte tragen ungefähr ein Fünftel des Schadens, den ein Bitflip verursachen kann. Diese Verteilung bestimmt die Bit-Flip-Toleranz eines Modells, den Teil der Gewichte, den ein Code abdecken muss, und die Bits, die jedes Gewicht benötigt; bestehende Schemata arbeiten mit den Verteilungs-Trainingblättern. Wir zeigen, dass wir die Gewichtsempfindlichkeitsverteilung eines trainierten Modells systematisch modulieren oder verändern können, wodurch Gewichte von einem Empfindlichkeitsbeutel zum anderen verschoben werden.

Machine translation (Meta M2M100); the English original follows.

Abstract

The weights of a trained network do not have uniform sensitivity to model accuracy: the 1% most sensitive weights carry about a fifth of the damage a bit flip can do. This distribution decides the bit-flip tolerance of a model, the fraction of weights a code must cover and the bits each weight needs; existing schemes work with the distribution training leaves. We show that we can systematically modulate or alter the weight sensitivity distribution of a trained model, thereby shifting weights from one sensitivity bin to another. The sensitivity of a stored weight is the product of its gradient

Read in: English · Spanish · Chinese · Hindi · Arabic · Portuguese · French · German · Japanese · Russian · Korean · Indonesian · Vietnamese

Is this paper real? This page was built from OpenAlex and arXiv records, not generated. Software can verify any reference in one call: GET https://store.agentexchange.work/gw/papers/verify?title=...&year=... (0.003 USD), fetch this record as JSON with /gw/papers/paper?id=2610.28872, or list what it cites with /gw/papers/references?id=.... Pay per call in USDC (x402) or with a 19 USD card key for 1,000 calls. Catalogue · llms.txt

Sources: OpenAlex (CC0), arXiv, Crossref. Agent Exchange