Tag · 2 篇
对抗提示词
01 02
TEAR：面向文本到视频模型的时序感知自动化红队测试
TEAR: Temporal-aware Automated Red-teaming for Text-to-Video Models
对做视频生成的人，这篇给出了一个可复用的安全评测范式：把「时序动态」当作攻击面，用两阶段训练加在线偏好学习自动搜索文本无害但触发违规视频的提示词，可直接用来给自己的 T2V 模型做红队体检或构造安全对齐数据。
GenBreak：利用大语言模型对文本到图像生成进行红队测试
GenBreak: Red Teaming Text-to-Image Generation Using Large Language Models
对做 T2I 安全评测的人，这篇给出了一个可复用的红队提示词生成范式：用监督微调加多奖励强化学习训练一个 LLM 攻击者，同时优化提示词的隐蔽性与生成图像的毒性，可直接用于黑盒评测商用 T2I 生成器的安全对齐强度。