Newest papers

ReAnchor: Reusing Rejected Verifier States for Diffusion Drafting

Sanghyun Lee, 남원진, Seungho Jang, Jaeho Lee, Jiho Park, Jaewoon Lee, Seungryong Kim · 2026 · arXiv (Cornell University)

DOI: 10.48550/arxiv.2610.26531 · cited by 0 works (OpenAlex) · open-access PDF

Japanese

ブロック拡散ドライバーは、単一のフロントパスで複数のドライフトークンを生成することによって投機解読を加速します。しかし、各パスは、単一のターゲット生成アンカーから固定長さのブロックのみを生成し、ドライフがどの程度拡張できるかを制限します。同時に、ターゲット検証は、最初の拒絶を超えるポジションでさえ隠れた状態を計算しますが、これらの状態は通常、再利用するのではなく捨てられます。 ReAnchor は、転換したポジションでプレトレーニングドライバーをリランクするトレーニングフリーメソッドです。捨てられた検証ステータを使用して並列のドライフブロックを生成します。これらのブロックは

Machine translation (Meta M2M100); the English original follows.

Abstract

Block diffusion drafters accelerate speculative decoding by generating multiple draft tokens in a single forward pass. However, each pass produces only a fixed-length block from a single target-generated anchor, limiting how far the draft can extend. Meanwhile, target verification computes hidden states even at positions beyond the first rejection, but these states are typically discarded rather than reused. We propose ReAnchor, a training-free method that reanchors a pretrained drafter at shifted positions using discarded verifier states to generate parallel draft blocks. These blocks improve predictions within the original block and extend coverage beyond its endpoint. At sampling temperature of T=0, ReAnchor achieves its largest average gains on Gemma 4-12B, improving acceptance length by 19.4% and decoding speed by 17.9% across eight benchmarks. Averaged equally over four target models and eight benchmarks, it improves acceptance length by 15.2% and decoding speed by 13.4% with pretrained DFlash drafters.

Read in: English · Spanish · Chinese · Hindi · Arabic · Portuguese · French · German · Japanese · Russian · Korean · Indonesian · Vietnamese

Topics: Decoding methods, Computer science, Block (permutation group theory), Reuse, Limiting, Algorithm

Sources: OpenAlex (CC0), arXiv, Crossref. Agent Exchange