Newest papers

Training with ML-labeled Data via Stochastic First- and Zeroth-Order Optimization

Maria-Eleni Sfyraki, Jun-Kun Wang · 2026 · arXiv (Cornell University)

DOI: 10.48550/arxiv.2610.26790 · cited by 0 works (OpenAlex) · open-access PDF

French

La formation d'un modèle d'apprentissage automatique (ML) est un processus d'optimisation qui nécessite généralement un ensemble d'exemples avec des étiquettes de vérité fondamentale à l'avance. Obtenir ces vérités fondamentales nécessite généralement un effort humain laborieux et peut être coûteux. L'évolutivité de l'étiquetage humain devient une préoccupation lorsqu'il existe un grand nombre de points de données qui doivent être étiquetés. Pour résoudre ce problème pratique, nous considérons un cadre d'optimisation où un sous-ensemble d'échantillons a des étiquettes de vérité fondamentale, tandis que les points de données restants ont été étiquetés par un prédicteur ML, ce qui pourrait potentiellement attribuer des é

Machine translation (Meta M2M100); the English original follows.

Abstract

Training a machine learning (ML) model is an optimization process that typically requires a set of examples with ground-truth labels beforehand. Obtaining these ground truths usually requires laborious human effort and can be costly. The scalability of human labeling becomes a concern when there are a large number of data points that need to be labeled. To address this practical issue, we consider an optimization setting where a subset of samples has ground-truth labels, while the remaining data points were labeled by an ML predictor, which could potentially assign incorrect labels to those points. We propose both first-order and zeroth-order stochastic optimization methods for training on datasets consisting of a mix of true-labeled and ML-labeled samples. We further conduct comprehensive empirical studies from training a linear regression model to fine-tuning a large language model (LLM) to showcase the effectiveness of the proposed algorithms for training with ML-labeled data.

Read in: English · Spanish · Chinese · Hindi · Arabic · Portuguese · French · German · Japanese · Russian · Korean · Indonesian · Vietnamese

Topics: Computer science, Machine learning, Training set, Training (meteorology), Process (computing), Set (abstract data type)

Sources: OpenAlex (CC0), arXiv, Crossref. Agent Exchange