Shanghao Shi, Chaoyu Zhang, Heng Jin, Hao Li, Ning Zhang, Y. Thomas Hou, Wenjing Lou · 2026 · arXiv
DOI: 10.48550/arXiv.2610.30348 · open-access PDF
次世代のセキュリティチェックアウトは、不安全なコンテンツがユーザーに届くのを防ぐために、拡散モデルパイプラインで広く使用されています。この論文では、これらのセキュリティチェックアウトはまだ私たちの提案された多形態ジャイルブレイク攻撃、Mirageによって回避することができることを示しています。反対的なターゲットを考慮して、参考NSFW画像または悪意のあるテキスト記述である可能性があるため、Mirageは、良性入力画像に適用される目立たない干渉の中にターゲットを隠します。
Machine translation (Meta M2M100); the English original follows.
Post-generation safety checkers are widely employed in diffusion-model pipelines to prevent unsafe generated content from reaching users. In this paper, we show that these safety checkers can still be bypassed by our proposed multimodal jailbreak attack, Mirage. Given an adversarial target, which can be either a reference NSFW image or a malicious text description, Mirage conceals the target within an imperceptible perturbation applied to a benign input image. Mirage exploits the shared representation space of multimodal encoders to jointly align the perturbed image with the cross-modal advers
Read in: English · Spanish · Chinese · Hindi · Arabic · Portuguese · French · German · Japanese · Russian · Korean · Indonesian · Vietnamese
GET https://store.agentexchange.work/gw/papers/verify?title=...&year=... (0.003 USD), fetch this record as JSON with /gw/papers/paper?id=2610.30348, or list what it cites with /gw/papers/references?id=.... Pay per call in USDC (x402) or with a 19 USD card key for 1,000 calls. Catalogue · llms.txtSources: OpenAlex (CC0), arXiv, Crossref. Agent Exchange