Tag · 8 篇
越狱攻击
面向鲁棒多模态大语言模型的越狱攻击防御
Towards Robust Multimodal Large Language Models Against Jailbreak Attacks
对做多模态大模型安全的研究者，这篇提供了可复用的对抗训练循环：用对比目标在词元嵌入空间优化出对抗扰动（CoE-Attack），再更新模型参数中和扰动，可作为白盒越狱防御的基线方案。
模型作为乐高搭建者：通过语义蓝图从良性积木组装恶意
Models as Lego Builders: Assembling Malice from Benign Blocks via Semantic Blueprints
提出一种基于结构化视觉提示（思维导图、表格、旭日图）的语义槽填充越狱方法，为研究LVLM多模态安全对齐与防御提供了可复用的攻击范式。
通过分歧引导的后缀优化与图像短语注入越狱视觉语言模型
Jailbreaking Vision-Language Models via Dissonance-Guided Suffix Optimization and Image-Phrase Injection
对做 VLM 安全与多模态对齐的研究者，这篇给出了一个可复用的攻击信号：用目标模型与未对齐模型之间的预测分歧（predictive dissonance）来定位被安全对齐压制的词元，替代离散词元空间上的梯度近似；同时把短语的内容与呈现方式一起嵌入图像做联合优化，利用跨模态敏感性提升迁移性，可作为红队评测 VLM 防护的基线。
JANUS：通过分布优化越狱文本到图像模型的轻量级框架
JANUS: A Lightweight Framework for Jailbreaking Text-to-Image Models via Distribution Optimization
把越狱攻击建模为在 T2I 系统端到端黑盒奖励下优化结构化提示词分布，用低维混合策略替代高容量 RL 生成器，为红队测试扩散模型安全过滤器提供了一个轻量、可复用的攻击基线，也提示防御方需针对分布级攻击设计分布感知的防护。
FORCE：通过特征过度依赖校正实现可迁移的视觉越狱攻击
FORCE: Transferable Visual Jailbreaking Attacks via Feature Over-Reliance CorrEction
对做多模态大模型红队与安全评测的人，这篇给出了一个可复用的攻击优化思路：用损失景观平坦化（类似 sharpness-aware 优化）加频域语义重加权，把视觉对抗扰动从高曲率窄区域推向平坦可行域，从而提升跨模型迁移性；这套「平坦化+频域重标定」也可迁移到对抗样本迁移性、模型鲁棒性诊断等视觉安全问题。
以视频驱动的提示突破多模态大模型安全
Breaking Multimodal LLM Safety via Video-Driven Prompting
对做多模态大模型安全与对齐的研究者，这篇给出了一个可复用的攻击构造思路：把有害内容与多样、安全邻近的帧交错注入排版视频，利用视频帧多样性降低表征与安全视频的差异，从而绕过系统提示与安全对齐；也可作为评测视频模态安全鲁棒性的红队基线。
锚定多模态推理器的心智：认知偏差作为越狱攻击的向量
Anchoring the Mind of Multimodal Reasoners: Cognitive Bias as a Vector for Jailbreak Attacks
提出利用认知锚定效应构造跨模态安全锚点（结构化视觉思维导图）来诱导多模态大模型推理链，为视觉安全对齐与越狱防御提供了新的攻击面与评测思路。
对抗风格优化：通过基于GRPO的风格触发器优化增强VLM越狱
Adversarial Style Optimization: Enhancing VLM Jailbreaks by GRPO-based Stylistic Triggers Optimization
提出了一种基于GRPO优化图像编辑模型来叠加风格触发器的即插即用模块，可增强现有视觉越狱攻击的成功率，为多模态大模型的安全评估和红队测试提供了可复用的风格扰动优化框架。