Newest papers

Looking Ahead: Modeling Future Evolution in Autoregressive Video Generation

Ruopeng Gao, Yukun Huang, Jiarui Hu, Shuai Wang, Wenbo Hu, Ying Shan, Limin Wang · 2026 · arXiv (Cornell University)

DOI: 10.48550/arxiv.2610.29989 · cited by 0 works (OpenAlex) · open-access PDF

Portuguese

Modelos de difusão de vídeo autoregressivos geram vídeos pedaços por pedaços, mas produzir continuações plausíveis não garante que eles capturem como as cenas evoluem. Sob a força do professor, a forte redundância temporal pode permitir que a continuidade visual local sirva como um atalho para a denoação de corrente, reduzindo a pressão para modelar a evolução visual. Introduzimos a Future Chunk Prediction (FCP), um objetivo auxiliar co-optimizado com a denoação forçada por professores que prevê pedaços temporalmente separados sem acesso ao contexto visual interveniente. Desenhando supervisão diretamente a partir de vídeos de treinamento, o FCP não requer codificador visual pré-treinado adicional e deixa a inferência autoregressiva inalterada. Nosso método alcança uma plausibilidade física superior sobre

Machine translation (Meta M2M100); the English original follows.

Abstract

Autoregressive video diffusion models generate videos chunk by chunk, yet producing plausible continuations does not guarantee that they capture how scenes evolve. Under teacher forcing, strong temporal redundancy may allow local visual continuity to serve as a shortcut for current-chunk denoising, reducing the pressure to model visual evolution. We introduce Future Chunk Prediction (FCP), an auxiliary objective jointly optimized with teacher-forced denoising that predicts temporally separated chunks without access to the intervening visual context. Drawing supervision directly from training videos, FCP requires no additional pretrained visual encoder and leaves autoregressive inference unchanged. Our method achieves superior physical plausibility over standard teacher-forced autoregressive training with a lower overall training compute budget, highlighting the effectiveness and efficiency of future-chunk supervision for modeling visual evolution. Intriguingly, our visualizations suggest that FCP fosters a more structured representation space, which may be valuable for building autoregressive world models.

Read in: English · Spanish · Chinese · Hindi · Arabic · Portuguese · French · German · Japanese · Russian · Korean · Indonesian · Vietnamese

Topics: Autoregressive model, Computer science, Redundancy (engineering), Inference, Artificial intelligence, Encoder

Sources: OpenAlex (CC0), arXiv, Crossref. Agent Exchange