无标签数据蒸馏

面向来自不同领域教师的持续蒸馏

Continual Distillation of Teachers from Different Domains

把「教师模型流式到达、且无法访问旧教师与教师训练数据」的持续蒸馏设定引入视觉模型压缩，用外部无标签数据上的 logits 保持来缓解跨域知识遗忘，可直接用于多源教师（如不同域检测/分割模型）合并到单一学生网络的场景。