Tag · 8 篇
扩散模型安全
TINA：面向已遗忘文本到图像扩散模型的无文本反演攻击
TINA: Text-Free Inversion Attack for Unlearned Text-to-Image Diffusion Models
用无文本（null-text）DDIM 反演加优化来绕过以文本为中心的擦除防御，为评估扩散模型概念擦除是否真正移除视觉知识提供了一个可复用的探针手段；做 unlearning/safety 评测时可直接借用该 inversion 流程检验模型内部是否仍保留被擦除概念的生成通路。
剪痕之下的根须：揭示扩散模型剪枝式遗忘中概念复活的隐患
Roots Beneath the Cut: Uncovering the Risk of Concept Revival in Pruning-Based Unlearning for Diffusion Models
对做扩散模型安全与机器遗忘的视觉研究者，本文指出剪枝位置本身构成侧信道：攻击者仅凭权重为零的位置即可无数据、无训练地恢复被抹除的概念，因此设计剪枝式遗忘方法时必须同时隐藏剪枝掩码，而不能只关注遗忘效果。
扩散模型中原型引导的概念擦除
Prototype-Guided Concept Erasure in Diffusion Models
利用扩散模型文本嵌入空间的几何结构，通过聚类得到概念原型，并在推理时作为负条件信号，为概念擦除和负向引导提供了一种无需微调的通用手段，可直接迁移到其他需要抑制特定语义的生成控制场景。
JANUS：通过分布优化越狱文本到图像模型的轻量级框架
JANUS: A Lightweight Framework for Jailbreaking Text-to-Image Models via Distribution Optimization
把越狱攻击建模为在 T2I 系统端到端黑盒奖励下优化结构化提示词分布，用低维混合策略替代高容量 RL 生成器，为红队测试扩散模型安全过滤器提供了一个轻量、可复用的攻击基线，也提示防御方需针对分布级攻击设计分布感知的防护。
GrOCE：面向文本到图像扩散模型的图引导在线概念擦除
GrOCE : Graph-Guided Online Concept Erasure for Text-to-Image Diffusion Models
提供一种免训练、在提示词层面做概念擦除的推理时干预手段：用动态语义图定位目标概念簇并选择性切断其语义成分，可直接复用于扩散模型的内容安全过滤与个性化生成中的概念抑制，无需微调权重。
GenBreak：利用大语言模型对文本到图像生成进行红队测试
GenBreak: Red Teaming Text-to-Image Generation Using Large Language Models
对做 T2I 安全评测的人，这篇给出了一个可复用的红队提示词生成范式：用监督微调加多奖励强化学习训练一个 LLM 攻击者，同时优化提示词的隐蔽性与生成图像的毒性，可直接用于黑盒评测商用 T2I 生成器的安全对齐强度。
擦除数千个概念：面向文本到图像扩散模型的可扩展且实用的概念擦除
Erasing Thousands of Concepts: Towards Scalable and Practical Concept Erasure for Text-to-Image Diffusion Models
提出基于t分布混合模型和最优传输的概念擦除框架，可精确定位并擦除文本嵌入中的目标概念，同时保持其他概念生成质量，为扩散模型的安全可控生成提供可扩展方案。
Adapter Shield：内置认证的统一框架，用于阻止未经授权的零样本图像到图像生成
Adapter Shield: A Unified Framework with Built-in Authentication for Preventing Unauthorized Zero-Shot Image-to-Image Generation
针对零样本图像到图像生成中的身份/风格盗用，提出可逆加密嵌入加多目标对抗扰动，把图像编码器输出的嵌入推向指定加密模式；做扩散模型安全、水印或个性化生成防护的研究可直接复用这套「嵌入层加密+对抗偏移」思路。