Tag · 2 篇
离散词元
分布 自监督与表征学习1生成模型与扩散1
01 02
从语义词典中学习：面向统一视觉表征与生成的判别式码本对比学习
Learning from Semantic Dictionaries: Discriminative Codebook Contrastive Learning for Unified Visual Representation and Generation
把生成式掩码词元重建与码本对比损失结合在同一个离散词元空间里训练，为视觉研究者提供了一条无需数据增强、教师模型和在线分词器即可同时获得强表征与高质量生成的统一预训练路径，可直接复用于统一理解-生成模型的骨干预训练。
EVATok：面向高效视觉自回归生成的自适应长度视频分词器
EVATok: Adaptive Length Video Tokenization for Efficient Visual Autoregressive Generation
提出自适应视频分词器，根据视频内容动态分配词元数量，在保持重建质量的同时显著降低下游自回归生成的计算成本，为视频生成模型的高效化提供了可复用的分词与路由机制。