Tag · 16 篇
视频理解
VirtueBench:评估长视频理解中不确定性下的可信度
VirtueBench: Evaluating Trustworthiness under Uncertainty in Long Video Understanding
该基准通过多级帧采样构造可回答与不可回答的样本,为评估视觉语言模型在长视频理解中的诚实性(拒绝回答能力)提供了可复用的评测协议,可直接用于诊断现有模型在信息缺失时是否倾向于猜测。
VideoSSR:视频自监督强化学习
VideoSSR: Video Self-Supervised Reinforcement Learning
提出三种视频自监督前置任务(异常定位、物体计数、时序拼图)来自动生成可验证的训练数据,为视频多模态大模型提供无需人工标注的强化学习训练信号,可直接用于提升视频时序定位与复杂推理能力。
VecAttention:面向长上下文推理加速的向量级稀疏注意力
VecAttention: Vector-wise Sparse Attention for Accelerating Long Context Inference
对做长视频理解或视频生成的视觉研究者,这篇论文提供了一个可直接替换全注意力的向量级稀疏注意力方案:利用视频注意力图的垂直向量稀疏模式,配合轻量重要向量选择与定制稀疏核,在 VideoMME、LongVideoBench、VBench 等任务上以约 2.65 倍加速保持精度,可作为长上下文视频模型推理加速的通用组件。
面向超低保留率视频大语言模型的统一时空词元压缩
Unified Spatiotemporal Token Compression for Video-LLMs at Ultra-Low Retention
提出一种无需重训练、即插即用的视频大语言模型视觉词元压缩方法,通过全局时空分配和文本感知合并,在极低保留率下保持性能,可直接用于降低视频理解任务的推理成本。
边看边想:面向大型视觉语言模型的流式思维链推理
Think-as-You-See: Streaming Chain-of-Thought Reasoning for Large Vision-Language Models
把视频 LVLM 的思维链从「看完再想」改成「边看边想」,用流式注意力掩码、位置编码和并行 KV 缓存实现帧到达即推理,可直接迁移到任何需要低延迟视频问答或在线视频理解的视觉语言模型上。
ParallelVLM:基于视觉对齐感知并行推测解码的无损视频大模型加速
ParallelVLM: Lossless Video-LLM Acceleration with Visual Alignment Aware Parallel Speculative Decoding
提出免训练的并行推测解码框架,通过无偏验证器引导剪枝对齐草稿与目标模型,将视频词元剪枝与推测解码结合,为视频大模型的长视频推理提供可复用的加速方案。
MotionEnhancer:利用视频扩散模型增强视觉语言模型的运动理解能力
MotionEnhancer: Leveraging Video Diffusion for Motion-Enhanced Vision-Language Models
把视频扩散模型内部对动态运动敏感的注意力当作先验,通过注意力对齐蒸馏进 VLM,且完全免训练、免改结构——做视频 VLM 的人可以直接复用这套「从生成模型借运动先验」的思路来补细粒度运动理解。
MiniCPM-V 4.5:通过架构、数据与训练配方打造高效多模态大模型
MiniCPM-V 4.5: Cooking Efficient MLLMs via Architecture, Data, and Training Recipe
3D-Resampler 对图像与视频做高度紧凑的视觉编码,配合混合强化学习在短/长推理模式间切换,为视觉侧提供了一条在 8B 规模下同时压低显存与推理耗时的可复用路线;其视频 token 压缩策略对做视频 MLLM 的效率优化尤其有参考价值。
LongVideo-R1:面向低成本长视频理解的智能导航
LongVideo-R1: Smart Navigation for Low-cost Long Video Understanding
把长视频问答建模为「由粗到细的主动片段导航」:用层级视觉摘要作为推理起点,让 MLLM 智能体逐步定位信息量最大的片段,并在信息足够时提前停止,从而在低算力预算下完成长视频理解;其两阶段 SFT+RL 训练与奖励设计可直接迁移到其他需要选择性采样的视觉-语言任务。
让VLM给自己的思维打分:一种面向推理感知奖励建模的自量化方法
Let VLMs Grade Their Own Thoughts: A Self-Quantification Approach to Reasoning-Aware Reward Modeling
提出利用VLM自生成置信度作为奖励信号,替代外部约束进行强化学习对齐,为视觉语言模型的推理优化提供了无需人工标注的奖励建模思路,可迁移至其他多模态推理任务。
通过合成视频学习可迁移的时序基元用于视频推理
Learning Transferable Temporal Primitives for Video Reasoning via Synthetic Videos
该工作表明,用程序化生成的合成视频(简单几何形状)训练 VLM 的时序基元(方向、速度、状态跟踪),能有效迁移到真实视频理解任务,为视频后训练提供了一条低成本、可扩展的数据构造路径。
FlexiVideo:面向高效视频理解的变异感知时序动态建模
FlexiVideo: Variation-Aware Temporal Dynamics Modeling for Efficient Video Understanding
面向视频 MLLM 的视觉 token 冗余问题,提出按帧间差异自适应分段并动态调整时序编码窗口,可直接复用到任何视频 LLM 的视觉编码前端以降低 token 数;其「高动态帧对导致视觉混淆」的发现也提示做视频 token 合并/采样时需按运动强度而非固定间隔处理。
Dynamics:基于语言从视频推断刚体动力学的表示方法
Dynamics: Language-Based Representation for Inferring Rigid-Body Dynamics From Videos
将语言作为刚体动力学的统一表示,利用光流作为语义无关输入增强泛化,并通过测试时采样和进化搜索提升物理参数推断精度,为视觉物理推理提供了新范式。
DUET-VLM:面向视觉语言模型训练与推理的双阶段统一高效词元缩减
DUET-VLM: Dual stage Unified Efficient Token reduction for VLM Training and Inference
提供一种即插即用的双阶段视觉词元压缩方案:先在视觉编码器输出端做冗余感知合并,再在语言骨干网络内按层用文本显著性引导丢弃视觉词元,可直接嵌入 LLaVA/Video-LLaVA 类 VLM 的端到端训练与推理以大幅降低视觉词元数而几乎不掉点。
关键时刻用彩色:灰度引导的在线触发用于常开流式视频感知
Color When It Counts: Grayscale-Guided Online Triggering for Always-On Streaming Video Sensing
提出灰度常开、彩色按需的传感范式,利用轻量二次规划在线检测彩色冗余,并配合动态词元路由降低推理成本,为边缘设备上的流式视频理解提供可复用的触发与调度机制。
适配轻量级图像计数模型的视频人群计数
Adapting Lightweight Image-based Counting Models for Video Crowd Counting
把视频中的时空信息定义为可统计解释的量,并用统计正则项在训练阶段注入,从而让任意轻量图像计数模型无需额外模块、无需多帧缓存即可获得时序增益;对做视频密集预测、想在边缘端实时部署的人,这是一个可直接套用的「训练时加正则、推理时零开销」范式。