Newest papers

Training with ML-labeled Data via Stochastic First- and Zeroth-Order Optimization

Maria-Eleni Sfyraki, Jun-Kun Wang · 2026 · arXiv (Cornell University)

DOI: 10.48550/arxiv.2610.26790 · cited by 0 works (OpenAlex) · open-access PDF

German

Das Training eines maschinellen Lernmodells (ML) ist ein Optimierungsprozess, der in der Regel eine Reihe von Beispielen mit Grundwahrheitsetiketten im Voraus erfordert. Das Erlangen dieser Grundwahrheiten erfordert in der Regel anstrengende menschliche Anstrengung und kann kostspielig sein. Die Skalierbarkeit der menschlichen Etikettierung wird zu einem Anliegen, wenn es eine große Anzahl von Datenpunkten gibt, die gekennzeichnet werden müssen. Um dieses praktische Problem anzugehen, betrachten wir eine Optimierungssetzung, bei der eine Untergruppe von Proben Grundwahrheitsetiketten hat, während die verbleibenden Datenpunkte von einem ML-Predictor gekennzeichnet wurden, was potenziell falsche Etiketten zu diesen Punkten zuschreiben könnte. Wir schlagen sowohl erste

Machine translation (Meta M2M100); the English original follows.

Abstract

Training a machine learning (ML) model is an optimization process that typically requires a set of examples with ground-truth labels beforehand. Obtaining these ground truths usually requires laborious human effort and can be costly. The scalability of human labeling becomes a concern when there are a large number of data points that need to be labeled. To address this practical issue, we consider an optimization setting where a subset of samples has ground-truth labels, while the remaining data points were labeled by an ML predictor, which could potentially assign incorrect labels to those points. We propose both first-order and zeroth-order stochastic optimization methods for training on datasets consisting of a mix of true-labeled and ML-labeled samples. We further conduct comprehensive empirical studies from training a linear regression model to fine-tuning a large language model (LLM) to showcase the effectiveness of the proposed algorithms for training with ML-labeled data.

Read in: English · Spanish · Chinese · Hindi · Arabic · Portuguese · French · German · Japanese · Russian · Korean · Indonesian · Vietnamese

Topics: Computer science, Machine learning, Training set, Training (meteorology), Process (computing), Set (abstract data type)

Sources: OpenAlex (CC0), arXiv, Crossref. Agent Exchange