视觉语言模型 / CVPR2026
LOREAL:以属性驱动提示自蒸馏缓解视觉语言模型的低分辨率挑战
LOREAL: Mitigating Low-Resolution Challenges in Vision-Language Models with Attribute-driven Prompt Self-Distillation
针对边缘设备低分辨率输入(<224×224、token 数减少)下 CLIP 类 VLM 的性能退化,提出双学生提示自蒸馏框架,用 LLM 查询的分辨率不变属性语义与跨模态元网络在低层/高层做跨分辨率蒸馏,可直接迁移到任何需要分辨率鲁棒性的提示学习或参数高效微调流程中。
提示学习自蒸馏低分辨率适应