Tag · 2 篇
对抗检测
01 02
TTP：面向视觉语言模型对抗检测与鲁棒自适应的测试时填充
TTP: Test-Time Padding for Adversarial Detection and Robust Adaptation on Vision-Language Models
对做 CLIP 类视觉语言模型鲁棒性的人，这篇给出了一个无需重训的推理期防御范式：用空间填充前后 CLIP 特征的余弦相似度漂移做对抗检测，并对检测出的对抗样本用可训练填充修复注意力模式，可直接套用到自己的 VLM 安全部署流程中。
视觉模型中对抗性成员操纵的统一视角
A Unified Perspective on Adversarial Membership Manipulation in Vision Models
对做视觉模型隐私评估的人，这篇论文指出成员推理攻击（MIA）本身存在对抗脆弱面：不可感知扰动可把非成员图像推入成员区域，并给出基于梯度范数坍缩轨迹的检测与鲁棒推理方案，可直接用于加固 MIA 评测流程或设计更可信的隐私审计工具。