Tag · 3 篇
掩码重建
分布 自监督与表征学习2强化学习与具身智能1
01 02 03
SwiftVLA：以极小开销为轻量 VLA 模型解锁时空动态
SwiftVLA: Unlocking Spatiotemporal Dynamics for Lightweight VLA Models at Minimal Overhead
用预训练的 4D 视觉几何 Transformer 加时序缓存，从 2D 图像流增量提取 4D 特征，再通过可学习的 Fusion Tokens 与未来预测目标把 4D 特征注入轻量 VLM；掩码重建策略让 4D 分支在推理时可丢弃，为视觉侧提供了一条「训练时用几何先验、部署时零开销」的可复用范式。
通过教师引导的双路径音视频表征学习实现语义噪声消减
Semantic Noise Reduction via Teacher-Guided Dual-Path Audio-Visual Representation Learning
把对比对齐与掩码重建拆成两条独立优化路径、各自使用不同的可见 patch 模式，并用教师模型组织对比分支的可见 token——这套解耦思路可直接迁移到图像/视频的自监督预训练中，缓解多目标联合优化时的语义噪声与梯度干扰。
探索自适应掩码重建用于自监督骨架动作识别
Exploring Adaptive Masked Reconstruction for Self-Supervised Skeleton-Based Action Recognition
把解码器与编码器解耦、用更大的时空图像块做掩码重建，并用运动信息量自适应引导重建难度，这套思路可直接迁移到视频/骨架等时序视觉表征的预训练中，在缩短训练时间的同时提升下游识别精度。