Tag · 2 篇
Fisher信息矩阵
分布 自监督与表征学习1人脸与人体理解1
01 02
把弹性权重巩固做对：面向持续学习的正确实现
Elastic Weight Consolidation Done Right for Continual Learning
对做视觉模型持续学习/增量训练的人，这篇给出了一个几乎零成本的改动：在计算 Fisher 信息矩阵时把 logit 取反，即可同时缓解梯度消失与冗余保护，可直接替换现有 EWC 正则项用于视觉骨干网络的顺序多任务训练。
解剖域偏移：面向三维人体姿态预测的测试时异构自适应
Anatomical Domain Shifts: Test-time Heterogeneous Adaptation for 3D Human Pose Prediction
把测试时自适应的参数更新按人体解剖部位（躯干、四肢等）分组，用 Fisher 信息矩阵划分参数子集、用 IN 统计量与 EMD 度量各部位的域偏移程度，从而只对发生偏移的肢体做微调或回滚——这套「按语义部位分组 + 分组级域差异度量」的思路可直接迁移到人体姿态/动作预测、人体网格恢复等任务中应对局部域偏移。