Newest papers

Claims of emergence in AI should be grounded in information decomposition

Christoph Riedl, Fernando E. Rosas · 2026 · arXiv (Cornell University)

DOI: 10.48550/arxiv.2610.28479 · cited by 0 works (OpenAlex) · open-access PDF

Vietnamese

Khi một mô hình ngôn ngữ phát triển các khả năng không thể theo dõi đến các thành phần riêng lẻ của nó, khi một hệ thống AI đa tác nhân vượt trội hơn mỗi tác nhân một cách độc lập, hoặc khi một cặp AI con người thành công nơi hoặc thất bại trong sự cô lập, các nhà nghiên cứu AI mô tả nó như là một trường hợp của "synergy" hoặc "khẩn cấp". Tuy nhiên, đây thường là những đánh giá không chính thức không được hỗ trợ bởi một khuôn khổ lý thuyết, làm cho những tuyên bố này không thể so sánh hoặc thậm chí tranh cãi có ý nghĩa. Ở đây chúng tôi lập luận rằng \emph{thế độ phân hủy thông tin có thể phục vụ như một khuôn khổ thống nhất để thực hiện các đánh giá về sự hợp tác trong các hệ thống AI. Sự phân hủy thông tin cung cấp một cách để phân biệt các loại thông tin

Machine translation (Meta M2M100); the English original follows.

Abstract

When a language model develops capabilities not traceable to its individual components, when a multi-agent AI system outperforms each agent on its own, or when a human-AI pair succeeds where either fails in isolation, AI researchers describe it as a case of ``synergy'' or ``emergence''. However, these are usually informal assessments not supported by a theoretical framework, making these claims impossible to compare or even meaningfully dispute. Here we argue that \emph{information decomposition can serve as a unifying formal framework to operationalize assessments about synergy in AI systems}. Information decomposition provides a way to distinguish qualitatively different \emph{types} of information, including unique information available from individual components, redundant information shared across multiple components, and synergistic information accessible only from parts taken together. This gives claims of emergence a precise, falsifiable criterion: a system's behavior is emergent only if it carries synergistic information about task-relevant outcomes. We apply this lens to attention heads, autonomous agents, and human-AI teams, showing how it organizes existing knowledge across scales and substrates, while also generating cross-level conjectures that siloed fields would miss.

Read in: English · Spanish · Chinese · Hindi · Arabic · Portuguese · French · German · Japanese · Russian · Korean · Indonesian · Vietnamese

Topics: Falsifiability, Operationalization, Decomposition, Computer science, Artificial intelligence, Information system

Sources: OpenAlex (CC0), arXiv, Crossref. Agent Exchange