Tag · 2 篇
多模态越狱攻击
01 02
RunawayEvil：越狱图像到视频生成模型
RunawayEvil: Jailbreaking the Image-to-Video Generative Models
针对图像到视频生成模型，给出一种可复用的多模态越狱攻击范式：用强化学习与 LLM 自动搜索文本指令与图像篡改的协同组合，可作为评估 I2V 系统安全对齐的自动化红队工具，也提示防御方需同时约束视觉与文本两条条件通路。
动态词元重加权：面向鲁棒视觉语言模型
Dynamic Token Reweighting for Robust Vision-Language Models
对做视觉语言模型安全的研究者，这篇给出了一个无需额外训练、不改图像输入的推理时防御手段：通过优化 KV 缓存动态调整视觉词元权重，可直接插到现有 VLM 的推理流程里，用来抵御对抗性视觉输入，同时保持正常任务性能。