Newest papers

Post-Hoc Feature Selection Layer for Neural Networks Interpretability

João Kenji Suwa, João Pedro Silveira e Silva, Bruno Iochins Grisci · 2026 · arXiv

DOI: 10.48550/arXiv.2610.31420 · open-access PDF

French

L’interprétabilité des réseaux neuronaux complexes reste un défi crucial, en particulier pour les modèles déjà déployés dans des domaines à haut taux d’intérêt. Pour y remédier, nous avons adapté la couche de sélection des fonctionnalités (FSL) pour optimiser les poids des fonctionnalités après l’entraînement, une variante que nous appelons FSL post-hoc. Notre approche redessine la FSL en tant que module léger et entraînable qui s’intègre avec des modèles déjà congelés sur des ensembles de données tabulaires pour mettre en évidence les caractéristiques que le modèle original juge les plus importantes.

Machine translation (Meta M2M100); the English original follows.

Abstract

The interpretability of complex neural networks remains a critical challenge, especially for models already deployed in high-stakes domains. To address this, we adapted the Feature Selection Layer (FSL) to optimize feature weights post-training, a variant we term post-hoc FSL. Our approach reframes the FSL as a lightweight, trainable module that integrates with already frozen pre-trained models on tabular datasets to highlight the features the original model considers most important. This post-hoc FSL learns feature relevance by fine-tuning its weights based on the original model's learned out

Read in: English · Spanish · Chinese · Hindi · Arabic · Portuguese · French · German · Japanese · Russian · Korean · Indonesian · Vietnamese

Sources: OpenAlex (CC0), arXiv, Crossref. Agent Exchange