Newest papers

Training Small Language Models for Transferable Tool Selection

Zhaoyi Zhou, Akshayaa Magesh, Jeongyeol Kwon, Artem Kuriksha, Daniel Jiang, Andrea Zanette, Ayush Jain · 2026 · arXiv (Cornell University)

DOI: 10.48550/arxiv.2610.31483 · cited by 0 works (OpenAlex) · open-access PDF

German

Da LLM-Agenten über eine Korporation von mehr als zehntausend Tools arbeiten, wird die Auswahl des richtigen Tools für eine komplexe, mehrstufige Benutzeranleitung zu einem zentralen Knotenpunkt. Toolbeschreibungen können nicht alle in den Kontext passen, und relevanzbasierte Retriever rangieren nur Tools, ohne zu wissen, welche tatsächlich benötigt werden. Die jüngste Arbeit nutzt stattdessen proprietäre kommerzielle LLMs wie Claude oder ChatGPT, um einen Retriever zu treiben, die Anweisungen zu zerlegen und über abgerufene Kandidaten auszuwählen. Wir zeigen, dass ein kleines, offenes Modell über Verstärkungslernen trainiert werden kann, um die gleiche Funktionalität auszuführen. Auf ToolBench übertrifft ein Qwen3-8B-Modell, das mit

Machine translation (Meta M2M100); the English original follows.

Abstract

As LLM agents operate over corpora of more than ten thousand tools, selecting the right tool for a complex multi-step user instruction becomes a central bottleneck. Tool descriptions cannot all fit in context, and relevance-based retrievers only rank tools without knowing which are actually needed. Recent work instead leverages proprietary commercial LLMs like Claude or ChatGPT to drive a retriever, decomposing the instruction and selecting over retrieved candidates. We show that a small, open model can be trained via reinforcement learning to perform the same functionality. On ToolBench, a Qwen3-8B model post-trained with our recipe outperforms Llama-4-Maverick (402B). In addition, the trained model transfers directly to different retrievers and generalizes to new tool corpora in different domains.

Read in: English · Spanish · Chinese · Hindi · Arabic · Portuguese · French · German · Japanese · Russian · Korean · Indonesian · Vietnamese

Topics: Computer science, Selection (genetic algorithm), Artificial intelligence, Rank (graph theory), Language model, Training (meteorology)

Sources: OpenAlex (CC0), arXiv, Crossref. Agent Exchange