Newest papers

RouterWorld: Scaling Conversational AI with Latency-Aware LLM Routing

Jinyang Li, Denis Emelin, Simone Tedeschi, Weiwei Cheng, Cristina Morariu, Haytham Assem, Jens Lehmann, Emine Yılmaz, Angus Addlesee · 2026 · arXiv (Cornell University)

DOI: 10.48550/arxiv.2610.26511 · cited by 0 works (OpenAlex) · open-access PDF

Vietnamese

Các hệ thống AI giao tiếp được xây dựng trên các mô hình dữ liệu ngôn ngữ lớn (LLM) đòi hỏi các cơ chế định tuyến để cân bằng chất lượng phản hồi và độ trễ phản hồi ở quy mô. Tuy nhiên, các tiêu chuẩn định tuyến LLM hiện có giả định khả năng quan sát đầy đủ của tất cả các kết quả mô hình ứng cử viên, nhấn mạnh độ trễ dưới dạng một thước đo hạng nhất và đánh giá phân đoạn trên các giao thức không đồng nhất với các thiết lập thế giới thực. Chúng tôi giới thiệu RouterWorld, một tiêu chuẩn toàn diện cho định tuyến LLM trong GenAI giao tiếp. RouterWorld thống nhất 371k phản ứng đơn lặp và 76k quỹ đạo đại lý đa lặp, áp dụng các tương tác người dùng tự nhiên với giao thức tiêu chuẩn LLM-as-a-judge, và loại bỏ hiệu quả từ việc định giá tạm qua

Machine translation (Meta M2M100); the English original follows.

Abstract

Conversational AI systems built on Large Language Models (LLMs) require routing mechanisms that balance answer quality and response latency at scale. However, existing LLM routing benchmarks assume full observability of all candidate model outcomes, under-emphasize latency as a first-class metric, and fragment evaluation across heterogeneous protocols misaligned with real-world settings. We introduce RouterWorld, a comprehensive benchmark for LLM routing in conversational GenAI. RouterWorld unifies 371k single-turn responses and 76k multi-turn agentic trajectories, adopts natural user interactions with a standardized LLM-as-a-judge protocol, and decouples efficiency from transient pricing via hardware-grounded latency annotations. Crucially, RouterWorld formalizes routing under partial observability through two setups: Cold-Start, which restricts learning to sparse, static logs, and Voyager, which models continuous data streams where routing decisions shape future training distributions. Evaluating 13 routing baselines, we find that most routers over-emphasize accuracy while ignoring latency under partial observability. Code and benchmark data are publicly available.

Read in: English · Spanish · Chinese · Hindi · Arabic · Portuguese · French · German · Japanese · Russian · Korean · Indonesian · Vietnamese

Topics: Computer science, Observability, Latency (audio), Static routing, Benchmark (surveying), Link-state routing protocol

Sources: OpenAlex (CC0), arXiv, Crossref. Agent Exchange