Tag · 4 篇

成员推理攻击

PrivSynth: Alternating and Control-Based Optimization for Privacy and Utility in Synthetic Data

把合成数据生成建模为隐私-效用的双目标优化，并用离散时间最优控制（PMP）求解数据选择参数，为视觉研究者提供了一套可复用的、在生成模型训练中显式抑制成员推理与重建泄露的优化框架。

Latent Diffusion Inversion Requires Understanding the Latent Space

对视觉研究者而言，本文揭示了潜扩散模型中自编码器几何（解码器拉回度量）对记忆/过拟合的非均匀影响，并提供了一种按维度贡献排序的通用分析工具，可用于诊断生成模型的隐私泄露风险或指导潜空间正则化设计。

Black-box Membership Inference Attacks on the Pre-training Data of Image-generation Models

对做扩散模型数据溯源与版权审计的研究者，这篇给出了一个仅依赖黑盒去噪行为的成员推理信号：同时扰动可疑图像与其对应文本指令，观察跨模态去噪响应差异，可在无法访问内部特征的主流闭源平台上判断预训练数据是否被使用。

A Unified Perspective on Adversarial Membership Manipulation in Vision Models

对做视觉模型隐私评估的人，这篇论文指出成员推理攻击（MIA）本身存在对抗脆弱面：不可感知扰动可把非成员图像推入成员区域，并给出基于梯度范数坍缩轨迹的检测与鲁棒推理方案，可直接用于加固 MIA 评测流程或设计更可信的隐私审计工具。