Tag · 1 篇
Masking Teacher and Reinforcing Student for Distilling Vision-Language Models
提出一种掩码渐进式强化学习蒸馏框架,通过逐步恢复教师模型容量和离线RL奖励机制,解决大模型到小模型蒸馏中的不稳定性问题,为视觉语言模型的高效压缩与部署提供可复用技术路径。