Newest papers

Training with ML-labeled Data via Stochastic First- and Zeroth-Order Optimization

Maria-Eleni Sfyraki, Jun-Kun Wang · 2026 · arXiv (Cornell University)

DOI: 10.48550/arxiv.2610.26790 · cited by 0 works (OpenAlex) · open-access PDF

Spanish

El entrenamiento de un modelo de aprendizaje automático (ML) es un proceso de optimización que normalmente requiere un conjunto de ejemplos con etiquetas de verdad fundamentales previamente. Obtener estas verdades fundamentales generalmente requiere un esfuerzo humano laboroso y puede ser costoso. La escalabilidad del etiquetado humano se convierte en una preocupación cuando hay un gran número de puntos de datos que necesitan ser etiquetados. Para abordar este problema práctico, consideramos una configuración de optimización donde un subconjunto de muestras tiene etiquetas de verdad fundamentales, mientras que los puntos de datos restantes fueron etiquetados por un predictor de ML, lo que podría atribuir etiquetas incorrectas a esos puntos. Proponemos métodos de optimización estocástica de primer orden y de orden cero para la formación de conjuntos de datos que consisten en una mez

Machine translation (Meta M2M100); the English original follows.

Abstract

Training a machine learning (ML) model is an optimization process that typically requires a set of examples with ground-truth labels beforehand. Obtaining these ground truths usually requires laborious human effort and can be costly. The scalability of human labeling becomes a concern when there are a large number of data points that need to be labeled. To address this practical issue, we consider an optimization setting where a subset of samples has ground-truth labels, while the remaining data points were labeled by an ML predictor, which could potentially assign incorrect labels to those points. We propose both first-order and zeroth-order stochastic optimization methods for training on datasets consisting of a mix of true-labeled and ML-labeled samples. We further conduct comprehensive empirical studies from training a linear regression model to fine-tuning a large language model (LLM) to showcase the effectiveness of the proposed algorithms for training with ML-labeled data.

Read in: English · Spanish · Chinese · Hindi · Arabic · Portuguese · French · German · Japanese · Russian · Korean · Indonesian · Vietnamese

Topics: Computer science, Machine learning, Training set, Training (meteorology), Process (computing), Set (abstract data type)

Sources: OpenAlex (CC0), arXiv, Crossref. Agent Exchange