低秩近似

一层的垃圾是另一层的宝藏：LVLM 中的自适应逐层视觉词元选择

One Layer's Trash is Another Layer's Treasure: Adaptive Layer-wise Visual Token Selection in LVLMs

对做多模态大模型视觉侧推理加速的人，这篇给出了「按层动态选择视觉词元 + 被跳过词元在后续层重新汇入」的免训练方案，并用重要性一致性约束的低秩近似来逼近全注意力，可直接替换现有静态剪枝模块以缓解早期层信息丢失。