Tag · 6 篇
教师-学生
面向多模态大语言模型的不确定性感知知识蒸馏
Uncertainty-Aware Knowledge Distillation for Multimodal Large Language Models
把教师监督视为学生激活上的 Gibbs 先验，可导出闭式的不确定性感知权重，可直接套用到任意蒸馏损失上；做 VLM 蒸馏或小模型压缩时，可用它按样本自适应调节教师信号强度，避免噪声样本与教师不确定样本的过度影响。
基于对数据集级平均精度边际贡献的目标检测在线数据筛选
Online Data Curation for Object Detection via Marginal Contributions to Dataset-level Average Precision
DetGain 把每张图对数据集级 AP 的边际扰动作为在线采样分数，并用教师-学生贡献差挑样本；做检测训练时可直接套用这套打分器做数据筛选，且与知识蒸馏叠加还能再涨点。
GeodesicNVS：面向新视角合成的概率密度测地线流匹配
GeodesicNVS: Probability Density Geodesic Flow Matching for Novel View Synthesis
把扩散的随机噪声到数据路径换成成对视图间的数据到数据确定性流匹配，并用密度测地线约束插值轨迹，可直接用于需要多视角一致性的生成式新视角合成与三维一致生成。
从注入到同化的蒸馏用于医学图像分割
From Infusion to Assimilation Distillation for Medical Image Segmentation
把知识蒸馏拆成「注入+同化」两阶段：先用类加权原型对齐软标签蒸馏对齐师生预测分布，再用对比式语义自优化对编码器特征施加反向约束，可作为在算力受限场景下压缩 SAM 类基础模型到轻量分割网络的通用蒸馏范式。
EReCu：面向无监督伪装检测的伪标签进化融合与多线索学习精炼
EReCu: Pseudo-label Evolution Fusion and Refinement with Multi-Cue Learning for Unsupervised Camouflage Detection
针对无监督伪装目标检测中伪标签噪声和边界模糊问题，提出多线索原生感知与伪标签进化融合框架，其教师-学生伪标签精炼和频谱张量注意力融合策略可迁移到其他弱监督/无监督分割任务。
CoopDiff：一种面向退化条件下协同的扩散引导方法
CoopDiff: A Diffusion-Guided Approach for Cooperation under Corruptions
把扩散去噪器当作特征级净化模块，用教师-学生范式在体素早期融合阶段生成干净监督，并用自我引导交叉注意力在退化条件下平衡融合两路特征；做车路协同/多智能体感知且需应对传感器与环境退化时可直接借鉴该去噪-融合结构。