Newest papers

Measuring the Verifier's Floor: How Much Apparent Rare-Word Text-to-Speech Error Is ASR Error?

Kirill Borodin, Vasilii Kudryavtsev, Nikita Vasiliev, Grach Mkrtchian · 2026 · arXiv

DOI: 10.48550/arXiv.2610.31470 · open-access PDF

French

Text-to-speech (TTS) est généralement évalué en transcrivant sa sortie avec un système de reconnaissance automatique de la parole (ASR), de sorte que le taux d'erreur du mot compte également les erreurs du reconnaisseur. Nous mesurons ces erreurs sur les enregistrements humains des phrases de test. Sur LibriSpeech et FLEURS, le reconnaisseur d'évaluation manque 33-67% des mots très rares même dans le langage humain, et les trois reconnaisseurs manquent 22-42%. Vérifier chaque mot avec deux familles de reconnaisseurs supplémentaires réduit l'erreur TTS apparente sur les mots que au moins un reconnaisseur entend deux à trois fois (mêmes des mots très rares de LibriSpeech: de 10-13% à 3-5%),

Machine translation (Meta M2M100); the English original follows.

Abstract

Text-to-speech (TTS) is usually evaluated by transcribing its output with an automatic speech recognition (ASR) system, so the word error rate also counts recognizer errors. We measure these errors on human recordings of the test sentences. On LibriSpeech and FLEURS, the evaluation recognizer misses 33-67% of very rare words even in human speech, and all three recognizers miss 22-42%. Checking every word with two more recognizer families lowers the apparent TTS error on words that at least one recognizer hears two- to three-fold (very rare LibriSpeech words: from 10-13% to 3-5%), yet very rare

Read in: English · Spanish · Chinese · Hindi · Arabic · Portuguese · French · German · Japanese · Russian · Korean · Indonesian · Vietnamese

Sources: OpenAlex (CC0), arXiv, Crossref. Agent Exchange