Tag · 3 篇
视频分词器
01 02 03
PyraTok:面向视频理解与生成的语言对齐金字塔分词器
PyraTok: Language-Aligned Pyramidal Tokenizer for Video Understanding and Generation
PyraTok 把视频 VAE 的编码器特征在多个深度上用共享大码本做二值量化,并联合多尺度文本引导量化与自回归目标训练,可直接替换现有视频生成/理解管线中的离散分词器,提升跨模态对齐与零样本下游迁移。
EVATok:面向高效视觉自回归生成的自适应长度视频分词器
EVATok: Adaptive Length Video Tokenization for Efficient Visual Autoregressive Generation
提出自适应视频分词器,根据视频内容动态分配词元数量,在保持重建质量的同时显著降低下游自回归生成的计算成本,为视频生成模型的高效化提供了可复用的分词与路由机制。
AdapTok:在一维潜空间中学习自适应且时序因果的视频分词
AdapTok: Learning Adaptive and Temporally Causal Video Tokenization in a 1D Latent Space
提出一种内容感知的视频分词器,通过块因果评分器和整数线性规划在总预算内动态分配每帧词元数,可直接用于视频生成模型的前端,提升词元效率与重建质量。