注意力敲除

Video-LLM 如何回答视频问题的实证研究

An Empirical Study on How Video-LLMs Answer Video Questions

用注意力敲除（temporal/spatial/language-to-video）逐层分析 Video-LLM，揭示视频信息抽取集中在浅层、中间层是关键离群层、时空建模更依赖语言引导的检索而非视频 token 自注意力；这些结论可直接用于剪掉冗余的视频自注意力计算，为 Video-LLM 的推理加速和结构设计提供依据。