Huawei Lin, Jinting Liu, Tan Yu, Weijie Zhao · 2026 · arXiv
DOI: 10.48550/arXiv.2610.26840 · open-access PDF
Les systèmes qui combinent plusieurs grands modèles de langue (LLM) utilisent souvent un contexte pour de nombreuses questions. Lorsque le contexte est transmis entre les modèles sous forme de texte, le modèle récepteur traite à nouveau tous ses jetons pour chaque question. Éviter ce coût nécessite une représentation de contexte qui est compacte, réutilisable sur les questions et lisible par un LLM différent. Les méthodes de compression et de communication latente existantes ne fournissent que certaines de ces propriétés. Nous présentons LatComm, une interface de communication latente qui fournit les trois en séparant l'encodage de la lecture: le contexte est encodé une fois intelligent
Machine translation (Meta M2M100); the English original follows.
Systems that combine several large language models (LLMs) often use one context for many questions. When the context is passed between models as text, the receiving model processes all of its tokens again for every question. Avoiding this cost requires a context representation that is compact, reusable across questions, and readable by a different LLM. Existing compression and latent communication methods each provide only some of these properties. We introduce LatComm, a Latent Communication interface that provides all three by separating encoding from reading: the context is encoded once wit
Read in: English · Spanish · Chinese · Hindi · Arabic · Portuguese · French · German · Japanese · Russian · Korean · Indonesian · Vietnamese
GET https://store.agentexchange.work/gw/papers/verify?title=...&year=... (0.003 USD), fetch this record as JSON with /gw/papers/paper?id=2610.26840, or list what it cites with /gw/papers/references?id=.... Pay per call in USDC (x402) or with a 19 USD card key for 1,000 calls. Catalogue · llms.txtSources: OpenAlex (CC0), arXiv, Crossref. Agent Exchange