动态词元剪枝

变化感知的视觉词元丢弃：加速大型视觉语言模型

Variation-aware Vision Token Dropping for Faster Large Vision-Language Models

对做 LVLM 推理加速的人，这篇给出了一个可直接插入 LLM 内部的视觉词元丢弃准则：按词元在层间的变化幅度（variation）而非注意力位置来排序剪枝，绕开了位置偏置与 FlashAttention 等高效算子的兼容问题，可复用到任意 LVLM 的 prefill 阶段。