Tag · 12 篇
第一人称视频
独特人生,共享世界:从单人生视频中学习
Unique Lives, Shared World: Learning from Single-Life Videos
提出仅用单个人第一人称视频进行自监督训练视觉编码器的范式,并设计跨注意力指标量化不同模型内部表征的功能对齐,为利用无标注个人视频学习通用几何表征提供了新思路。
面向无约束第一人称视频的稳定自监督物体表征
Towards Stable Self-Supervised Object Representations in Unconstrained Egocentric Video
用帧内蒸馏加深度正则化从无标注第一人称视频中自举出稳定的『原型物体』表征,并用教师过滤的时序一致性维持身份,可直接迁移到无监督目标发现与自监督预训练的表征稳定化环节。
SkillSight:基于注视的高效第一人称技能评估
SkillSight: Efficient First-Person Skill Assessment with Gaze
把注视信号作为第一人称视频理解的额外模态,并用教师-学生蒸馏把多模态模型压缩成仅注视输入的轻量模型,为可穿戴设备上的低功耗视觉感知提供了可复用的范式。
看见对话:第一人称视频中的交流情境识别
Seeing Conversations: Communication Context Identification in Egocentric Video
把「谁在和拍摄者交流」定义为一个可学习的第一人称视频任务,并用跨个体的长时序注意力建模社交动态;对做第一人称视频、多人交互理解或助听/AR 场景的人,这是一个可直接复用的任务设定与基线模型。
SAVA-X:基于场景自适应视角对齐与双向跨视角融合的第一人称到第三人称模仿误差检测
SAVA-X: Ego-to-Exo Imitation Error Detection via Scene-Adaptive View Alignment and Bidirectional Cross View Fusion
面向第一人称与第三人称异步、长度不匹配视频的跨视角时序对齐与融合框架,其视图条件自适应采样和双向交叉注意力可直接迁移到 egocentric-exocentric 视频配对、跨视角动作定位与步骤级质量评估等任务。
错误归因:第一人称视频中的细粒度错误理解
Mistake Attribution: Fine-Grained Mistake Understanding in Egocentric Videos
提出细粒度错误归因任务,将错误定位到指令语义角色、不可逆时间点(PNR)及空间位置,并给出自动构建大规模错误样本的数据引擎 MisEngine 与统一注意力模型 MisFormer,可复用于第一人称视频的时序定位与视觉语言理解。
带用户反馈的交互式情景记忆
Interactive Episodic Memory with User Feedback
把用户反馈作为条件注入到长视频时序定位中,并用轻量对齐模块(FALM)免去昂贵的序列优化,可直接迁移到视频检索、时刻定位等需要多轮交互修正的任务。
第一人称视频中的 3D 扫描路径预测
Forecasting 3D Scanpaths in Egocentric Video
将注视点预测从 2D 图像序列扩展到第一人称视频中的 3D 笛卡尔坐标序列,利用 Transformer 融合视频帧、头部姿态和过去 3D 注视点,为 AR/VR 中的意图预测和交互提供可复用的时序建模框架。
FunREC:从第一人称交互视频重建功能性三维场景
FUN REC * Reconstructing Functional 3D Scenes from Egocentric Interaction Videos
从第一人称 RGB-D 交互视频中自动发现关节部件、估计运动学参数并重建规范化空间下的可仿真网格,为机器人操作与仿真提供可直接导出的 URDF/USD 资产;其无需多状态采集或 CAD 先验的设定,对做动态场景重建与具身数据获取的研究者可直接复用。
EgoFlow:梯度引导的流匹配用于第一人称6DoF物体运动生成
EgoFlow: Gradient-Guided Flow Matching for Egocentric 6DoF Object Motion Generation
将流匹配与梯度引导推理结合,在生成 6DoF 轨迹时直接嵌入可微物理约束(碰撞避免、平滑性),无需后处理;其混合 Mamba-Transformer-Perceiver 架构对时序动态、场景几何与语义意图的联合建模方式,可迁移到其他需要物理合理性的轨迹生成或运动预测任务。
EgoEdit:面向第一人称视频编辑的数据集、实时流式模型与基准
EgoEdit: Dataset, Real-Time Streaming Model, and Benchmark for Egocentric Video Editing
面向第一人称视频的指令引导编辑,核心可复用点是「保留手部与手物交互区域」的编辑约束设计,以及单卡实时流式推理管线;做视频编辑或 AR 交互生成的研究者可直接借鉴其数据构造与手部保持评测协议。
Ego-InBetween:在第一人称视频中生成物体状态转移
Ego-InBetween: Generating Object State Transitions in Ego-Centric Videos
把「初始态→目标态」的中间帧生成显式建模为多步状态转移,并用 VLM 推断转移步骤作为生成条件,为视频生成中的长程物理一致性提供了一条可复用的「先推理后生成」范式。