Tag · 7 篇
残差学习
残差解码器适配器:面向自回归文本渲染的ID保持分词器适配
Residual Decoder Adapter: ID-Preserving Tokenizer Adaption for Autoregressive Text Rendering
提出一种后置适配器,在不改变分词器词元空间和自回归模型的前提下,通过残差分支增强解码器输出,从而提升文本渲染质量;该思路可复用于其他需要提升分词器重建细节的生成任务。
ResAD:面向端到端自动驾驶的归一化残差轨迹建模
ResAD: Normalized Residual Trajectory Modeling for End-to-End Autonomous Driving
把轨迹预测从直接回归改为「惯性参考 + 残差」的建模方式,并用逐点归一化重新加权损失,可直接迁移到任何需要长时程、非均匀误差敏感度的轨迹/位姿序列回归任务(如行人轨迹预测、视频中的运动预测)。
MaskAdapt:基于掩码不变先验的物理角色灵活运动适配学习
MaskAdapt: Learning Flexible Motion Adaptation via Mask-Invariant Prior for Physics-Based Characters
随机身体部位掩码加动作分布一致性正则化训练出的掩码不变先验,可迁移到视觉观测缺失下的姿态/动作估计与条件生成;两阶段残差策略则提供了一种只改动目标部位、保留其余行为的可控生成范式。
低秩残差扩散模型
Low-Rank Residual Diffusion Models
把扩散过程约束在低秩残差子空间里,并让前向低秩、反向满秩,这种非对称扩散设计可直接迁移到去雨、去模糊等近域复原任务,用来降低采样不确定性并保住结构细节。
通过残差学习从查询样本中搜寻正常性以实现通用异常检测
Hunting Normality from Query Sample via Residual Learning for Generalist Anomaly Detection
将残差特征从「直接建模分布」改为「引导学习实例级正常性代理」,并用支持集特征动态聚合查询相关的正常性代理,这一思路可迁移到少样本缺陷检测、开放类别异常定位以及任何需要类不变表征的定位任务。
HDW-SR:基于小波分解的高频引导扩散模型用于图像超分辨率
HDW-SR: High-Frequency Guided Diffusion Model based on Wavelet Decomposition for Image Super-Resolution
把扩散过程限制在残差图上、并用小波子带做稀疏交叉注意力提供高频显式引导,这套「频域分解 + 残差扩散」思路可直接迁移到去模糊、去噪、压缩伪影去除等其它复原任务的高频细节恢复。
微调损害了基础模型在长尾个性化联邦学习中的平衡性
Fine-Tuning Impairs the Balancedness of Foundation Models in Long-tailed Personalized Federated Learning
论文揭示了对基础模型进行微调会破坏其固有的类别平衡性,并提出用零样本预测净化本地梯度、以残差学习实现无偏个性化,这为视觉基础模型在非独立同分布长尾数据上的联邦微调提供了可复用的梯度修正与残差适配思路。