Newest papers

Beyond the Sequentiality Bottleneck: A Hybrid Diffusion-Autoregressive Framework for Efficient Multimodal Reasoning

Wei Cai, Jian Zhao, Yuchen Yuan, Xuelong Li · 2026 · arXiv (Cornell University)

DOI: 10.48550/arxiv.2610.28584 · cited by 0 works (OpenAlex) · open-access PDF

Vietnamese

Để giải quyết cả hai hạn chế, chúng tôi đề xuất Collaborative Reasoning Asymmetric Learning (CoRAL), một khuôn khổ hybrid thông qua kiến trúc Asymmetric Planner-Executor (APE): một DLM Planner tạo ra các quỹ đạo lý luận đa dạng K song song song, trong khi một ARM Executor lớn chọn kế hoạch tối ưu và tổng hợp câu trả lời cuối cùng. Để đào tạo Planner hiệu quả, chúng tôi giới thiệu Reward-Guided Denoising for CoT (RDC), tích hợp phần thưởng dựa trên kết quả vào quá trình phân tán để hướng dẫn nó hướng tới lý luận hướng mục tiêu. Các thí nghiệm trên các tiêu chuẩn ngôn ngữ tầm nhìn cho thấy rằng CoRAL vượt trội đáng kể các phương pháp phân tán dựa trên hiệu suất trước và đạt được hiệu suất cạnh tranh chống lại ARM, đạt được chất lượng cao và hiệu quả

Machine translation (Meta M2M100); the English original follows.

Abstract

Autoregressive models (ARMs) face a "Sequentiality Bottleneck" in reasoning, while diffusion language models (DLMs) offer parallelism but lack semantic coherence. To addresses both limitations, we propose Collaborative Reasoning Asymmetric Learning (CoRAL), a hybrid framework via an Asymmetric Planner-Executor (APE) architecture: a DLM Planner generates K diverse reasoning trajectories in parallel, while a large ARM Executor selects the optimal plan and synthesizes the final answer. To train the Planner effectively, we introduce Reward-Guided Denoising for CoT (RDC), which integrates outcome-based rewards into the diffusion process to steer it toward goal-directed reasoning. Experiments on vision-language benchmarks show that CoRAL significantly outperforms prior diffusion-based methods and achieves competitive performance against strong ARMs, achieving both superior efficiency and quality.

Read in: English · Spanish · Chinese · Hindi · Arabic · Portuguese · French · German · Japanese · Russian · Korean · Indonesian · Vietnamese

Topics: Computer science, Artificial intelligence, Planner, Process (computing), Face (sociological concept), Plan (archaeology)

Sources: OpenAlex (CC0), arXiv, Crossref. Agent Exchange