预填充延迟

QuietPrune：面向视觉语言模型的查询引导早期词元剪枝

QuietPrune: Query-Guided Early Token Pruning for Vision-Language Models

把剪枝时机提前到 ViT 内部，并用投影器逆变换构造的 [Q-CLS] 词元为视觉词元提供文本相关性打分，这一「查询引导的早期剪枝」思路可直接迁移到任何 ViT-LLM 架构的 VLM 推理加速中，且 2x2 分组剪枝与主流视觉词元合并操作兼容。