Shanghao Shi, Chaoyu Zhang, Heng Jin, Hao Li, Ning Zhang, Y. Thomas Hou, Wenjing Lou · 2026 · arXiv
DOI: 10.48550/arXiv.2610.30348 · open-access PDF
Os verificadores de segurança de pós-geração são amplamente empregados em pipelines de modelo de difusão para impedir que conteúdos gerados de forma insegura cheguem aos usuários. Neste artigo, mostramos que esses verificadores de segurança ainda podem ser contornados pelo nosso ataque de jailbreak multimodal proposto, o Mirage. Dado um alvo adversário, que pode ser uma imagem NSFW de referência ou uma descrição de texto maliciosa, o Mirage esconde o alvo dentro de uma perturbação imperceptível aplicada a uma imagem de entrada benigna.
Machine translation (Meta M2M100); the English original follows.
Post-generation safety checkers are widely employed in diffusion-model pipelines to prevent unsafe generated content from reaching users. In this paper, we show that these safety checkers can still be bypassed by our proposed multimodal jailbreak attack, Mirage. Given an adversarial target, which can be either a reference NSFW image or a malicious text description, Mirage conceals the target within an imperceptible perturbation applied to a benign input image. Mirage exploits the shared representation space of multimodal encoders to jointly align the perturbed image with the cross-modal advers
Read in: English · Spanish · Chinese · Hindi · Arabic · Portuguese · French · German · Japanese · Russian · Korean · Indonesian · Vietnamese
GET https://store.agentexchange.work/gw/papers/verify?title=...&year=... (0.003 USD), fetch this record as JSON with /gw/papers/paper?id=2610.30348, or list what it cites with /gw/papers/references?id=.... Pay per call in USDC (x402) or with a 19 USD card key for 1,000 calls. Catalogue · llms.txtSources: OpenAlex (CC0), arXiv, Crossref. Agent Exchange