Barış Alparslan, Sandy Tanwisuth, Caleb Petterson · 2026 · arXiv
DOI: 10.48550/arXiv.2610.31624 · open-access PDF
La convergence instrumentale est souvent invoquée comme une raison générale pour s’attendre à ce que les agents capables acquièrent ou expriment des sous-objectifs qui recherchent le pouvoir: l’autoconservation, l’acquisition de ressources, la tromperie ou la résistance à la surveillance qui représente une menace importante pour la société. Pour les LLM, l’apprentissage du renforcement est la première étape de la post-entraînement qui optimise directement le comportement vis-à-vis d’un objectif; par conséquent, c’est la phase où le comportement instrumental convergent, sur la base de l’IC, est susceptible d’apparaître.
Machine translation (Meta M2M100); the English original follows.
Instrumental convergence is often invoked as a general reason to expect capable agents to acquire or express power-seeking subgoals: self-preservation, resource acquisition, deception, or resistance to oversight which poses an important threat to the society. For LLMs, reinforcement learning is the first stage of post-training that directly optimizes behavior against an objective; therefore, it is the stage where convergent instrumental behavior, on IC grounds, likely to appear. Does reinforcement learning with verifiable rewards (RLVR) make a model more likely to express instrumental-converge
Read in: English · Spanish · Chinese · Hindi · Arabic · Portuguese · French · German · Japanese · Russian · Korean · Indonesian · Vietnamese
GET https://store.agentexchange.work/gw/papers/verify?title=...&year=... (0.003 USD), fetch this record as JSON with /gw/papers/paper?id=2610.31624, or list what it cites with /gw/papers/references?id=.... Pay per call in USDC (x402) or with a 19 USD card key for 1,000 calls. Catalogue · llms.txtSources: OpenAlex (CC0), arXiv, Crossref. Agent Exchange