Tag · 2 篇
信息论分析
分布 视觉语言模型1鲁棒性与安全1
01 02
当词元剪枝不如随机剪枝：理解视觉语言模型中的视觉词元信息
When Token Pruning is Worse than Random: Understanding Visual Token Information in VLLMs
为视觉语言模型中的视觉词元剪枝提供了理论依据：深层视觉词元信息消失，随机剪枝即可，且可增强现有方法（如DivPrune），在OCR等视觉密集任务中需保留更深层词元。
解构理想噪声校正的失败：三重诊断
Deconstructing the Failure of Ideal Noise Correction: A Three-Pillar Diagnosis
对做噪声标签/弱监督训练的视觉研究者：即使给定 oracle 噪声转移矩阵，基于 T 的校正方法仍会训练崩溃，说明不应再把精力放在提升 T 估计精度上，而应关注校正过程中的优化动力学与信息论上限，可据此重新设计损失或训练调度。