Tag · 2 篇
贝叶斯先验
分布 视觉语言模型1自监督与表征学习1
01 02
面向多模态大语言模型的不确定性感知知识蒸馏
Uncertainty-Aware Knowledge Distillation for Multimodal Large Language Models
把教师监督视为学生激活上的 Gibbs 先验，可导出闭式的不确定性感知权重，可直接套用到任意蒸馏损失上；做 VLM 蒸馏或小模型压缩时，可用它按样本自适应调节教师信号强度，避免噪声样本与教师不确定样本的过度影响。
面向野外世界稳定联邦持续测试时自适应
Towards Stable Federated Continual Test-Time Adaptation in Wild World
为视觉模型在无标签、客户端顺序到达的野外部署场景提供了一套稳定的在线自适应与聚合机制：用最大后验估计把贝叶斯先验注入本地 TTA 以防漂移，再用不确定性门控决定是否把单客户端更新并入全局模型，可直接迁移到跨域分类/分割的持续部署流程中。