Tag · 2 篇
免训练防御
01 02
面向被植入后门的大型视觉语言模型的测试时注意力净化
Test-Time Attention Purification for Backdoored Large Vision Language Models
对做多模态大模型安全与部署的研究者，这篇给出了一个可直接复用的测试时检测信号——跨模态融合层中视觉-文本注意力比值，以及一个免训练、即插即用的输入净化流程（剪除高注意力可疑视觉 token），无需重训 LoRA 或适配器即可中和后门激活。
LaSM：用于防御 GUI 智能体弹窗攻击的逐层缩放机制
LaSM: Layer-wise Scaling Mechanism for Defending Pop-up Attack on GUI Agents
对做多模态大模型智能体或视觉语言模型安全的研究者，这篇论文给出一个免训练、推理时即可用的防御手段：通过逐层放大关键层的注意力与 MLP 模块，把模型显著性重新拉回任务相关区域；其「逐层注意力分歧」分析也可直接迁移到其他视觉注入攻击（如对抗 patch、干扰物注入）的脆弱性诊断上。