Tag · 4 篇
梯度重加权
调控而非约束:全色锐化中复杂光谱重建的自适应引导
Regulating Rather than Constraining: Adaptive Guidance for Complex Spectral Reconstruction in Pansharpening
提出一种与架构无关的正则化引导机制,通过MixShuffle数据增强和分层注意力加权损失,可迁移到其他需要处理复杂光谱混合的低层视觉任务中。
基于保形预测自校准的低质量数据多模态学习
Multimodal Learning on Low-Quality Data with Conformal Predictive Self-Calibration
把保形预测当作在线可靠性打分器,用它对单模态特征做选择性融合、对反向传播梯度按样本可靠性重加权,可直接迁移到视觉多模态(RGB-深度、图像-文本)训练中应对模态失衡与标签噪声。
基于自适应梯度重加权与多阶段目标优化的机器遗忘
Machine Unlearning via Adaptive Gradient Reweighting and Multi-stage Objective Optimization
为视觉模型提供一种无需重训练的遗忘机制:通过自适应梯度重加权与多阶段目标优化(方向校正、时序稳定、自适应目标组合)缓解遗忘与保留目标间的梯度冲突,可直接用于扩散模型或分类骨干网的概念/样本擦除与隐私合规。
GRPO-Guard:通过受调控的裁剪缓解流匹配中的隐式过度优化
GRPO-Guard: Mitigating Implicit Over-Optimization in Flow Matching via Regulated Clipping
对做扩散/流匹配模型 RL 后训练的人,这篇给出了一个可直接替换 PPO clipping 的比值归一化 + 梯度重加权模块,用来防止代理奖励上涨而图像质量与文本对齐崩塌;可作为 SD3.5、Flux 等骨干上 GRPO 微调的稳定化插件。