注意力核优化

VecAttention：面向长上下文推理加速的向量级稀疏注意力

VecAttention: Vector-wise Sparse Attention for Accelerating Long Context Inference

对做长视频理解或视频生成的视觉研究者，这篇论文提供了一个可直接替换全注意力的向量级稀疏注意力方案：利用视频注意力图的垂直向量稀疏模式，配合轻量重要向量选择与定制稀疏核，在 VideoMME、LongVideoBench、VBench 等任务上以约 2.65 倍加速保持精度，可作为长上下文视频模型推理加速的通用组件。