多模态大模型安全对齐

以视频驱动的提示突破多模态大模型安全

Breaking Multimodal LLM Safety via Video-Driven Prompting

对做多模态大模型安全与对齐的研究者，这篇给出了一个可复用的攻击构造思路：把有害内容与多样、安全邻近的帧交错注入排版视频，利用视频帧多样性降低表征与安全视频的差异，从而绕过系统提示与安全对齐；也可作为评测视频模态安全鲁棒性的红队基线。