Newest papers

Claims of emergence in AI should be grounded in information decomposition

Christoph Riedl, Fernando E. Rosas · 2026 · arXiv (Cornell University)

DOI: 10.48550/arxiv.2610.28479 · cited by 0 works (OpenAlex) · open-access PDF

Russian

Когда языковая модель развивает возможности, которые не могут быть прослежены к ее отдельным компонентам, когда многоагентная система ИИ превосходит каждого агента самостоятельно, или когда полевая пара человека-ИИ преуспевает там, где либо не удается в изоляции, исследователи ИИ описывают это как случай «синергии» или «появления». Однако, это обычно неформальные оценки, не поддерживаемые теоретической рамкой, делая эти утверждения невозможными для сравнения или даже осмысленного оспаривания. Здесь мы утверждаем, что \emph{информационный распад может служить унифицирующей формальной рамкой для операционной оценки синергии в системах ИИ}. Информационный распад предоставляет способ отличить качественно различные \emph{типы} информации, включая уникальную информацию, доступную

Machine translation (Meta M2M100); the English original follows.

Abstract

When a language model develops capabilities not traceable to its individual components, when a multi-agent AI system outperforms each agent on its own, or when a human-AI pair succeeds where either fails in isolation, AI researchers describe it as a case of ``synergy'' or ``emergence''. However, these are usually informal assessments not supported by a theoretical framework, making these claims impossible to compare or even meaningfully dispute. Here we argue that \emph{information decomposition can serve as a unifying formal framework to operationalize assessments about synergy in AI systems}. Information decomposition provides a way to distinguish qualitatively different \emph{types} of information, including unique information available from individual components, redundant information shared across multiple components, and synergistic information accessible only from parts taken together. This gives claims of emergence a precise, falsifiable criterion: a system's behavior is emergent only if it carries synergistic information about task-relevant outcomes. We apply this lens to attention heads, autonomous agents, and human-AI teams, showing how it organizes existing knowledge across scales and substrates, while also generating cross-level conjectures that siloed fields would miss.

Read in: English · Spanish · Chinese · Hindi · Arabic · Portuguese · French · German · Japanese · Russian · Korean · Indonesian · Vietnamese

Topics: Falsifiability, Operationalization, Decomposition, Computer science, Artificial intelligence, Information system

Sources: OpenAlex (CC0), arXiv, Crossref. Agent Exchange