Newest papers

One Act, Many Masks: Effect-Marginal Policy Optimization for Long-Horizon Agents

Shaojin Ma, Ruitao Wang, Pengyi Li, Jie Yang, Liangyu Chen, Gangyi Zhao, Hongyao Tang, Yan Zheng, Jianye Hao · 2026 · arXiv (Cornell University)

DOI: 10.48550/arxiv.2610.29427 · cited by 0 works (OpenAlex) · open-access PDF

Vietnamese

Những tiến bộ gần đây trong học tập tăng cường đa vòng (RL) đã cải thiện đáng kể hiệu suất của các đại lý LLM trên các nhiệm vụ tương tác phức tạp, dài hạn. Tuy nhiên, mặc dù tiến bộ trong phân bổ tín dụng tinh tế, tối ưu hóa chính sách vẫn áp dụng các tín hiệu học tập này thông qua tỷ lệ xác suất đáp ứng cụ thể. Các phản ứng văn bản khác nhau có thể gây ra hiệu ứng thực hiện tương tự, nhưng sự khác biệt tín dụng phát sinh từ các kết quả tiếp theo vẫn gắn liền với thực hiện văn bản riêng lẻ của họ. Chúng tôi xác định sự không phù hợp này là sự không phù hợp với mức độ thực hiện tín dụng. Phân tích của chúng tôi tiết lộ rằng ghép nối tín dụng-thông tin trực tiếp định hình các hướng cập nhật chính sách, ngay cả khi bối cảnh chính sách và hiệu ứng thực hiện được giữ cố định. Được thúc

Machine translation (Meta M2M100); the English original follows.

Abstract

Recent advances in multi-turn reinforcement learning (RL) have substantially improved the performance of LLM agents on complex, long-horizon interactive tasks. However, despite progress in fine-grained credit assignment, policy optimization still applies these learning signals through response-specific probability ratios. Different textual responses can induce the same executable effect, yet credit differences arising from subsequent outcomes remain tied to their individual textual realizations. We identify this mismatch as credit-update misalignment. Our analysis reveals that credit-text pairing directly shapes policy-update directions, even when the policy context and executable effect are held fixed. Motivated by this finding, we propose Effect-Marginal Policy Optimization (EMPO), which aligns policy optimization with execution-level equivalence through an effect-level surrogate that couples updates across alternative textual realizations. EMPO preserves the original credit signals, integrates with both trajectory-level and step-level credit estimators, and requires no additional critics or rollouts. Experiments on ALFWorld, WebShop, and Sokoban show that EMPO outperforms strong baselines in both task performance and learning efficiency.

Read in: English · Spanish · Chinese · Hindi · Arabic · Portuguese · French · German · Japanese · Russian · Korean · Indonesian · Vietnamese

Topics: Reinforcement learning, Computer science, Executable, Context (archaeology), Task (project management), Artificial intelligence

Sources: OpenAlex (CC0), arXiv, Crossref. Agent Exchange