Newest papers

When Do LLMs Help with Feature Selection? A Systematic Empirical Study

Fateme Memar, Dongjie Wang, Arvin Agah · 2026 · arXiv

DOI: 10.48550/arXiv.2610.28556 · open-access PDF

Russian

Большие языковые модели (LLM) могут использовать семантические названия функций наряду с обобщающей статистикой для подбора табличных функций, однако остается неясным, когда такая информация улучшает подбор подгрупп по отношению к установленным статистическим методам. Мы исследуем этот вопрос в рамках 18-ти наборов данных, состоящих из 10 наборов данных для обучения по оптимизации относительной политики групп (GRPO), 2 для валидации контрольных пунктов и 6 наборов данных для оценки. Мы сравниваем пять классических исходных линий, замороженные селекторы Qwen2.5-7B и Llama-3.3-70B, и две модели Qwen2.5-7B, адаптированные к GRPO, сообщающие классификацию ROC-AU

Machine translation (Meta M2M100); the English original follows.

Abstract

Large language models (LLMs) can leverage semantic feature names alongside summary statistics for tabular feature selection, yet it remains unclear when such information improves subset selection relative to established statistical methods. We investigate this question within an 18-dataset framework comprising 10 datasets for Group Relative Policy Optimization (GRPO) training, 2 for checkpoint validation, and 6 held-out evaluation datasets. We compare five classical baselines, frozen Qwen2.5-7B and Llama-3.3-70B selectors, and two GRPO-adapted Qwen2.5-7B models, reporting classification ROC-AU

Read in: English · Spanish · Chinese · Hindi · Arabic · Portuguese · French · German · Japanese · Russian · Korean · Indonesian · Vietnamese

Sources: OpenAlex (CC0), arXiv, Crossref. Agent Exchange