Newest papers

On Data Scaling in Tabular ML: More Data, Better Generalization?

Ivan Rubachev, Nikita Lazarev, Artem Babenko · 2026 · arXiv

DOI: 10.48550/arXiv.2610.26794 · open-access PDF

Vietnamese

Công việc gần đây về máy học bảng đã nhấn mạnh tầm quan trọng của các thiết lập đánh giá đa dạng và thực tế. Tuy nhiên, niche dữ liệu quy mô lớn (1M+) vẫn chưa được khám phá. Để nghiên cứu quy mô dữ liệu đào tạo, chúng tôi đã lắp ráp tám bộ dữ liệu bảng thực tế với khoảng mười triệu ví dụ đào tạo, giữ lại sự thay đổi phân phối tự nhiên của các nhiệm vụ và sử dụng đánh giá phân chia ngẫu nhiên như một điều khiển. Chúng tôi thấy rằng GBDT và các mô hình dựa trên MLP cho thấy xu hướng quy mô tương tự, với những lợi ích từ cả dữ liệu đào tạo bổ sung và cải tiến thuật toán.

Machine translation (Meta M2M100); the English original follows.

Abstract

Recent work in tabular machine learning has emphasized the importance of diverse and realistic evaluation settings. The niche of large-scale (1M+) data, however, remains under-explored. To study training-data scaling, we assemble eight real-world tabular datasets with up to around ten million training examples, retaining the natural distribution shifts of the tasks and using random-split evaluation as a control. We find that GBDTs and MLP-based models show broadly similar scaling trends, with gains from both additional training data and algorithmic improvements. Tabular foundation models show

Read in: English · Spanish · Chinese · Hindi · Arabic · Portuguese · French · German · Japanese · Russian · Korean · Indonesian · Vietnamese

Sources: OpenAlex (CC0), arXiv, Crossref. Agent Exchange