Tag · 1 篇
Momentum Memory for Knowledge Distillation in Computational Pathology
用动量更新的跨批次记忆库替代批次内对齐,把基因组监督蒸馏进纯组织学推理模型,并解耦双分支梯度;这套「记忆库扩大监督上下文 + 梯度解耦」的做法可直接迁移到其他缺失模态的多模态蒸馏场景(如影像-文本、影像-临床指标)。