Rodrigo Casado Noguerales, Dimitri von Rütte, Bernhard Schölkopf, Thomas Hofmann, Aran Raoufi · 2026 · arXiv
DOI: 10.48550/arXiv.2610.28543 · open-access PDF
Les modèles de diffusion discrète dénoncent itérativement une séquence bruyante de données catégoriques telles que le texte, permettant la génération de tout ordre avec des capacités d'auto-correction et de remplissage. Cela les rend des candidats prometteurs pour les tâches de raisonnement, de planification et de génération restreinte telles que le codage et les mathématiques. Cependant, la diffusion masquée et uniforme efface l'identité d'un jeton dans un seul événement de corruption, de sorte que leurs états bruyants ne peuvent pas représenter explicitement une incertitude partiellement résolue dans laquelle plusieurs alternatives restent plausibles.
Machine translation (Meta M2M100); the English original follows.
Discrete diffusion models iteratively denoise a noisy sequence of categorical data such as text, enabling any-order generation with self-correction and in-filling capabilities. This makes them promising candidates for reasoning, planning, and constrained-generation tasks like coding and math. Yet masked and uniform diffusion erase a token's identity in a single corruption event, so their noisy states cannot explicitly represent partially resolved uncertainty in which several alternatives remain plausible. We close this gap with Binary Discrete Diffusion, a family of continuous-time discrete-di
Read in: English · Spanish · Chinese · Hindi · Arabic · Portuguese · French · German · Japanese · Russian · Korean · Indonesian · Vietnamese
GET https://store.agentexchange.work/gw/papers/verify?title=...&year=... (0.003 USD), fetch this record as JSON with /gw/papers/paper?id=2610.28543, or list what it cites with /gw/papers/references?id=.... Pay per call in USDC (x402) or with a 19 USD card key for 1,000 calls. Catalogue · llms.txtSources: OpenAlex (CC0), arXiv, Crossref. Agent Exchange