Newest papers

Training with ML-labeled Data via Stochastic First- and Zeroth-Order Optimization

Maria-Eleni Sfyraki, Jun-Kun Wang · 2026 · arXiv (Cornell University)

DOI: 10.48550/arxiv.2610.26790 · cited by 0 works (OpenAlex) · open-access PDF

Russian

Обучение модели машинного обучения (ML) - это процесс оптимизации, который обычно требует набора примеров с базовыми этикетками заранее. Получение этих базовых истин обычно требует трудоемких человеческих усилий и может быть затратным. Скалируемость человеческой маркировки становится проблемой, когда существует большое количество точек данных, которые должны быть маркированы. Чтобы решить эту практическую проблему, мы рассматриваем настройку оптимизации, в которой подгруппа образцов имеет базовые этикетки, в то время как оставшиеся точки данных были маркированы предсказателем ML, что может потенциально присвоить неправильные этикетки этим точкам. Мы предлагаем как первоначальные, так и нулевые методы стохастической оптимизации для обучения наборам данных, состоящих из сочетания истинно маркированных и маркированных образцов ML.

Machine translation (Meta M2M100); the English original follows.

Abstract

Training a machine learning (ML) model is an optimization process that typically requires a set of examples with ground-truth labels beforehand. Obtaining these ground truths usually requires laborious human effort and can be costly. The scalability of human labeling becomes a concern when there are a large number of data points that need to be labeled. To address this practical issue, we consider an optimization setting where a subset of samples has ground-truth labels, while the remaining data points were labeled by an ML predictor, which could potentially assign incorrect labels to those points. We propose both first-order and zeroth-order stochastic optimization methods for training on datasets consisting of a mix of true-labeled and ML-labeled samples. We further conduct comprehensive empirical studies from training a linear regression model to fine-tuning a large language model (LLM) to showcase the effectiveness of the proposed algorithms for training with ML-labeled data.

Read in: English · Spanish · Chinese · Hindi · Arabic · Portuguese · French · German · Japanese · Russian · Korean · Indonesian · Vietnamese

Topics: Computer science, Machine learning, Training set, Training (meteorology), Process (computing), Set (abstract data type)

Sources: OpenAlex (CC0), arXiv, Crossref. Agent Exchange