Tag · 4 篇
向量量化
分布 视觉语言模型13D 视觉与重建1生成模型与扩散1人脸与人体理解1
01 02 03 04
VQRAE:面向多模态理解、生成与重建的表征量化自编码器
VQRAE: Representation Quantization Autoencoders for Multimodal Understanding, Generation and Reconstruction
提出用高维语义VQ码本(1536维)在统一分词器中同时输出连续语义特征和离散token,视觉研究者可借鉴其两阶段训练策略(先冻结编码器学码本,再自蒸馏联合优化)来构建兼顾理解与生成的视觉表征。
面向无监督非刚性点云对应的拓扑感知特征传播
Topology-aware Feature Propagation for Unsupervised Non-rigid Point Cloud Correspondence
用拓扑感知的超点特征传播替代基于空间近邻的传播,并用向量量化码本增强特征以抵抗形状差异,可直接迁移到非刚性配准、形变跟踪与点云对应任务的特征提取环节。
面向视觉分词与生成的球面 Leech 量化
Spherical Leech Quantization for Visual Tokenization and Generation
把无参数量化统一到格编码框架下,用 Leech 格(Λ24)在高维球面上做均匀量化,可直接替换 BSQ 等无查找量化器嵌入自回归图像生成与压缩管线,简化训练配方并改善重建-压缩折中。
LiveGesture:可流式生成的语音协同手势生成模型
LiveGesture: Streamable Co-Speech Gesture Generation Model
把全身动作按身体区域拆成因果离散词元、再用区域专家自回归模型加时空融合来建模,这套「流式分词器 + 分层自回归」的架构可直接迁移到其他需要零前瞻、任意长度输出的动作/姿态序列生成任务(如虚拟人驱动、动作预测)。