Newest papers

ReAnchor: Reusing Rejected Verifier States for Diffusion Drafting

Sanghyun Lee, Wonjin Nam, Seungho Jang, Jaeho Lee, Jiho Park, Jaewoon Lee, Seungryong Kim · 2026 · arXiv

DOI: 10.48550/arXiv.2610.26531 · open-access PDF

Vietnamese

Drafter phân tán khối tăng tốc độ giải mã đầu cơ bằng cách tạo ra nhiều token dự thảo trong một lối đi phía trước duy nhất. Tuy nhiên, mỗi lối đi chỉ tạo ra một khối có độ dài cố định từ một ốc vít được tạo ra bởi một mục tiêu duy nhất, hạn chế mức độ mà dự thảo có thể mở rộng. Trong khi đó, xác minh mục tiêu tính toán trạng thái ẩn ngay cả ở các vị trí vượt ra ngoài sự từ chối đầu tiên, nhưng các trạng thái này thường bị loại bỏ thay vì tái sử dụng. Chúng tôi đề xuất ReAnchor, một phương pháp miễn phí đào tạo tái mở rộng một dự thảo được đào tạo tại các vị trí thay đổi bằng cách sử dụng trạng thái xác minh bị loại bỏ để tạo ra các khối dự thảo song song. Những khối này cải thiện

Machine translation (Meta M2M100); the English original follows.

Abstract

Block diffusion drafters accelerate speculative decoding by generating multiple draft tokens in a single forward pass. However, each pass produces only a fixed-length block from a single target-generated anchor, limiting how far the draft can extend. Meanwhile, target verification computes hidden states even at positions beyond the first rejection, but these states are typically discarded rather than reused. We propose ReAnchor, a training-free method that reanchors a pretrained drafter at shifted positions using discarded verifier states to generate parallel draft blocks. These blocks improve

Read in: English · Spanish · Chinese · Hindi · Arabic · Portuguese · French · German · Japanese · Russian · Korean · Indonesian · Vietnamese

Sources: OpenAlex (CC0), arXiv, Crossref. Agent Exchange