Newest papers

Attn-Forcing: Learning Full-Context Attention Proxies for Streaming Video Generation

Junyao Gao, Sibo Liu, Jiaxing Li, Yanan Sun, Hanxin Zhu, Weidong Zhang, Jun Zhang, Cairong Zhao · 2026 · arXiv

DOI: 10.48550/arXiv.2610.30036 · open-access PDF

Hindi

ध्यान संदर्भ की लंबाई को बढ़ाने से स्ट्रीमिंग वीडियो उत्पादन की गुणवत्ता में काफी सुधार होता है, जबकि संदर्भ बढ़ने के साथ प्रतिबंधित स्मृति और गणना लागतें होती हैं मौजूदा तरीके ध्यान चयन या संपीड़न के माध्यम से इस संदर्भ जानकारी को कैप्चर करने का प्रयास करते हैं, लेकिन सीमित प्रतिनिधित्वों द्वारा सीमित रहते हैं और सीमित स्मृति के तहत स्ट्रीमिंग वीडियो उत्पादन के लिए पूर्ण संदर्भ ध्यान योगदान को बनाए रखने के लिए स्पष्ट ध्यान स्तर की पर्यवेक्षण की कमी है।

Machine translation (Meta M2M100); the English original follows.

Abstract

Increasing the attention context length significantly improves streaming video generation quality, while incurring prohibitive memory and computational costs as the context grows. Existing methods attempt to capture this contextual information through attention selection or compression, but remain limited by bounded representations and lack explicit attention-level supervision to retain historical contributions to current queries. To address this, we introduce Attn-Forcing, a novel framework that preserves full-context attention contributions for streaming video generation under bounded memory

Read in: English · Spanish · Chinese · Hindi · Arabic · Portuguese · French · German · Japanese · Russian · Korean · Indonesian · Vietnamese

Sources: OpenAlex (CC0), arXiv, Crossref. Agent Exchange