Newest papers

Humans Correct Their Judgments Through Debate, but Weaker AI Models Do Not

Maria Victoria Carro, Denise Alejandra Mester, Facundo Nieto, Oscar Agustin Stanchi, Guido Ernesto Bergman, Giovanni Franco Gabriel Marrafini, Trinidad Borrell, Guido Freire · 2026 · arXiv

DOI: 10.48550/arXiv.2610.28539 · open-access PDF

Vietnamese

Làm thế nào chúng ta có thể giám sát hiệu quả các hệ thống AI vượt quá trí thông minh của con người? AI Safety via Debate đề xuất rằng hai hệ thống AI tranh luận về các vị trí đối lập và một thẩm phán, hoặc là một người hay một mô hình yếu hơn, quyết định cái nào là đúng. Bằng cách tạo điều kiện cho các giám sát viên cung cấp tín hiệu đào tạo chất lượng cao, cuộc tranh luận nhằm khuyến khích hành vi chân thật và an toàn từ các hệ thống AI có khả năng vượt quá khả năng của chúng ta. Tuy nhiên, phán đoán của con người không trung lập: mọi người thường dựa vào những định kiến mà các hệ thống AI tiên tiến có thể học cách khai thác.

Machine translation (Meta M2M100); the English original follows.

Abstract

How can we effectively oversee AI systems that surpass human intelligence? AI Safety via Debate proposes that two AI systems argue opposing positions and a judge, either a human or a weaker model, decides which is correct. By facilitating supervisors in providing high-quality training signals, debate aims to encourage truthful and safe behavior from AI systems whose capabilities exceed our own. However, human judgment is not neutral: people often rely on biases which advanced AI systems may learn to exploit. Drawing on insights from collective intelligence and social cognition, this paper inve

Read in: English · Spanish · Chinese · Hindi · Arabic · Portuguese · French · German · Japanese · Russian · Korean · Indonesian · Vietnamese

Sources: OpenAlex (CC0), arXiv, Crossref. Agent Exchange