Tag · 10 篇
黑盒攻击
你的特征泄露了什么：面向分割式 DNN 的数据高效黑盒特征反演攻击
What Your Features Reveal: Data-Efficient Black-Box Feature Inversion Attack for Split DNNs
把流匹配引入特征反演：用潜空间对齐模块 + 确定性一步流匹配把中间特征投回目标流形，可在极少图像-特征对下训练，为评估分割式推理的隐私泄露提供了可复用的攻击基线；其基于 LVLM 的语义保真度指标也可直接用于衡量任何重建/反演任务的语义一致性。
揭示VLN鲁棒性：基于室内光照的对抗攻击黑盒框架
Shedding Light on VLN Robustness: A Black-box Framework for Indoor Lighting-based Adversarial Attack
提出通过操纵室内全局光照（静态强度变化与动态开关切换）对VLN智能体进行黑盒对抗攻击的框架，为视觉导航模型的鲁棒性评估提供了现实可行的扰动范式，可启发针对光照变化的防御与数据增强策略。
通过投毒知识库对检索增强扩散模型进行红队测试
Red-teaming Retrieval-Augmented Diffusion Models via Poisoning Knowledge Bases
针对检索增强扩散模型的黑盒后门攻击方法，通过知识库投毒和多目标优化学习触发器，可启发视觉研究者评估检索增强生成系统的安全性，并设计防御机制。
PureProof：抗扩散净化的大型视觉语言模型黑盒目标攻击
PureProof: Diffusion-Resistant Black-box Targeted Attack on Large Vision-Language Models
提出针对扩散净化（DBP）的黑盒目标攻击框架 PureProof，其随机反向对齐（SRA）和自适应重加噪增强（ARA）可被复用为评估视觉语言模型在扩散防御下鲁棒性的攻击基线。
PROMPTMINER：通过强化学习与VLM引导优化对文本到图像生成模型的黑盒提示词窃取
PROMPTMINER: Black-Box Prompt Stealing against Text-to-Image Generative Models via Reinforcement Learning and VLM-Guided Optimization
提出一种黑盒提示词窃取框架，利用强化学习重建主体、VLM引导搜索风格修饰词，可复用于提示词逆向工程、数据溯源与版权保护研究。
模型作为乐高搭建者：通过语义蓝图从良性积木组装恶意
Models as Lego Builders: Assembling Malice from Benign Blocks via Semantic Blueprints
提出一种基于结构化视觉提示（思维导图、表格、旭日图）的语义槽填充越狱方法，为研究LVLM多模态安全对齐与防御提供了可复用的攻击范式。
组合生成的隐藏危险：诊断文本到图像模型中的语义安全失效
Hidden Dangers of Compositional Generation: Diagnosing Semantic Safety Failures in Text-to-Image Models
提出一种纯文本空间的黑盒组合重写攻击 CoRA，可复用于评估 T2I 模型安全过滤器的语义组合漏洞，并启发设计更鲁棒的安全对齐与过滤机制。
GenBreak：利用大语言模型对文本到图像生成进行红队测试
GenBreak: Red Teaming Text-to-Image Generation Using Large Language Models
对做 T2I 安全评测的人，这篇给出了一个可复用的红队提示词生成范式：用监督微调加多奖励强化学习训练一个 LLM 攻击者，同时优化提示词的隐蔽性与生成图像的毒性，可直接用于黑盒评测商用 T2I 生成器的安全对齐强度。
CamPI：通过相机电源信号注入实现物理对抗样本
CamPI: Physical Adversarial Examples through Camera Power Signal Injection
揭示了一种全新的物理对抗攻击面：通过向相机供电线路注入调制信号，在成像中产生不可见的结构性条纹扰动，并给出白盒/黑盒端到端优化注入参数的方法；对做物理世界视觉系统安全评测的研究者，这提供了一个可仿真的注入扰动模型和一套可复用的攻击参数优化流程。
针对图像生成模型预训练数据的黑盒成员推理攻击
Black-box Membership Inference Attacks on the Pre-training Data of Image-generation Models
对做扩散模型数据溯源与版权审计的研究者，这篇给出了一个仅依赖黑盒去噪行为的成员推理信号：同时扰动可疑图像与其对应文本指令，观察跨模态去噪响应差异，可在无法访问内部特征的主流闭源平台上判断预训练数据是否被使用。