Tag · 2 篇
收敛性分析
分布 鲁棒性与安全1自监督与表征学习1
01 02
衰减步长的力量:提升基于符号优化器的攻击稳定性与迁移性
The Power of Decaying Steps: Enhancing Attack Stability and Transferability for Sign-based Optimizers
把基于符号的对抗攻击优化器重新表述为逐坐标梯度下降,并用单调递减的坐标级步长(MDCS)解决迭代次数增加反而导致攻击成功率下降的问题;做迁移攻击或对抗训练的人可以直接把这一调度替换进 I-FGSM/MI-FGSM 类流程,提升黑盒迁移性与稳定性。
DP-FedAdamW:面向差分隐私联邦大模型的高效优化器
DP-FedAdamW: An Efficient Optimizer for Differentially Private Federated Large Models
为在隐私约束下用视觉 Transformer/ResNet 做联邦训练提供可直接替换的优化器:修正二阶矩估计的隐私噪声偏差并抑制客户端漂移,视觉研究者可在 DP 联邦微调大模型时直接套用该优化器与收敛分析框架。