Newest papers

CALLIOPE: Private Insights into AI Use, Without Embeddings

Edith Cohen, Vadym Doroshenko, Badih Ghazi, Charlie Harrison, Pritish Kamath, Alexander Knop, Ravi Kumar, Ethan Leeman, Pasin Manurangsi, Mikhail Pravilov, Adam Sealfon, Yurii Sushko, Marika Swanberg, Chiyuan Zhang · 2026 · arXiv (Cornell University)

DOI: 10.48550/arxiv.2610.28797 · cited by 0 works (OpenAlex) · open-access PDF

Russian

Мы вводим CALLIOPE, рамку сверху вниз для обнаружения тематических иерархий в большом корпусе неструктурированных данных (например, разговоры LLM), поддерживая при этом дифференциальную конфиденциальность (DP). В отличие от традиционных и даже недавних LLM-увеличенных подходов, которые в конечном итоге полагаются на кластерные векторные встраивания, наша рамка использует возможности LLM непосредственно для всего трубопровода. Эксперименты показывают, что этот подход обеспечивает лучшую полезность по сравнению с существующими (на основе встраивания) методами в настройке DP, особенно в режиме высокой конфиденциальности. Мы оцениваем качество выходов CALLIOPE с использованием различных традиционно изученных метрик кластерирования

Machine translation (Meta M2M100); the English original follows.

Abstract

We introduce CALLIOPE, a top-down framework for discovering topic hierarchies in large corpora of unstructured data (e.g., LLM conversations), while supporting differential privacy (DP). Unlike traditional and even recent LLM-augmented approaches that ultimately rely on clustering vector embeddings, our framework leverages LLM capabilities directly for the entire pipeline. Experiments demonstrate that this approach provides better utility over existing (embedding-based) methods in the DP setting, especially in the high privacy regime. We evaluate the quality of CALLIOPE outputs using a variety of traditionally studied clustering metrics, as well as some novel utility metrics that we introduce.

Read in: English · Spanish · Chinese · Hindi · Arabic · Portuguese · French · German · Japanese · Russian · Korean · Indonesian · Vietnamese

Topics: Variety (cybernetics), Computer science, Cluster analysis, Differential privacy, Artificial intelligence, Conceptual clustering

Sources: OpenAlex (CC0), arXiv, Crossref. Agent Exchange