Newest papers

Rethinking Post-hoc Debiasing of Large Pretrained Models

Divyaansh Mertia, Chirag Bhutra, Himanshu Shekhar, Shubham Bagwari, Pratik Mazumder · 2026 · arXiv

DOI: 10.48550/arXiv.2610.29688 · open-access PDF

Vietnamese

Các mô hình được đào tạo trước lớn như CLIP được sử dụng rộng rãi như chất chiết xuất tính năng đóng băng. Tuy nhiên, các nhúng của chúng thừa hưởng các mối tương quan sai lệch từ dữ liệu đào tạo, giới thiệu sự thiên vị vào các tính năng. Một cơ thể ngày càng tăng của nghiên cứu đã tìm cách giải quyết vấn đề này thông qua việc giảm thiểu hậu trường, để lại xương sống không bị ảnh hưởng. Chúng tôi phát hiện ra rằng mặc dù các cơ chế khác nhau, các phương pháp này đòi hỏi tính năng thiên vị phải được xác định và thể hiện trong văn bản. Sự phụ thuộc này không vô hại. Trong công việc này, chúng tôi đã thử nghiệm chứng minh rằng yêu cầu này gây ra hình phạt không lường trước trong một số kịch bản. Đối với kỳ thi

Machine translation (Meta M2M100); the English original follows.

Abstract

Large pretrained models such as CLIP are widely used as frozen feature extractors. However, their embeddings inherit spurious correlations from training data, introducing bias into the features. A growing body of research has sought to address this issue through post hoc debiasing, leaving the backbone untouched. We discover that despite differing mechanisms, these methods require the bias feature to be identified and expressed in text. This dependency is not innocuous. In this work, we experimentally demonstrate that this requirement incurs an unforeseen penalty in certain scenarios. For exam

Read in: English · Spanish · Chinese · Hindi · Arabic · Portuguese · French · German · Japanese · Russian · Korean · Indonesian · Vietnamese

Sources: OpenAlex (CC0), arXiv, Crossref. Agent Exchange