Tag · 7 篇

视觉自回归模型

分布高效模型与推理加速3生成模型与扩散2数据集与评测1强化学习与具身智能1

VAR RL Done Right: Tackling Asynchronous Policy Conflicts in Visual Autoregressive Generation

针对VAR模型在强化学习微调中因异构输入结构导致的异步策略冲突问题，提出稳定中间奖励、动态时间步重加权和掩码传播算法，为视觉自回归生成模型的RL对齐提供了可复用的技术方案。

SparVAR: Exploring Sparsity in Visual AutoRegressive Modeling for Training-Free Acceleration

SparVAR 提出免训练的稀疏注意力机制，利用 VAR 模型中的注意力汇、跨尺度激活相似性和局部性，动态预测高分辨率尺度的稀疏模式，并实现高效块稀疏核，可将 8B 模型生成 1024x1024 图像的时间降至 1 秒，为视觉自回归生成模型提供通用加速方案。

Residual Decoder Adapter: ID-Preserving Tokenizer Adaption for Autoregressive Text Rendering

提出一种后置适配器，在不改变分词器词元空间和自回归模型的前提下，通过残差分支增强解码器输出，从而提升文本渲染质量；该思路可复用于其他需要提升分词器重建细节的生成任务。

Progressive Supernet Training for Efficient Visual Autoregressive Modeling

提出一种基于超网络的动态深度调整方法，通过渐进式训练策略在单个模型内实现不同深度的子网络，从而在视觉自回归生成中大幅减少KV缓存和推理时间，为资源受限场景下的高效生成提供了可复用的技术方案。

LazyVAR: Accelerating Visual Autoregressive Models via Scale-wise Token Pruning and Parallel Group Decoding

对做视觉自回归生成的研究者，这篇给出了一个免训练、即插即用的加速范式：用相邻尺度聚合潜变量特征的相似度作为尺度更新指数来指导剪枝，并在大尺度上并行解码跨尺度词元，可直接套用到 VAR/Infinity 类模型的推理管线中。

HierAmp: Coarse-to-Fine Autoregressive Amplification for Generative Dataset Distillation

把 VAR 的由粗到细多尺度生成当作层级语义的天然载体，在每个尺度注入类别词元并生成显著性图来引导合成，这个「尺度级条件注入 + 显著性引导」的机制可直接迁移到任何需要分层控制生成内容的视觉合成任务。

FantasyVLN: Unified Multimodal Chain-of-Thought Reasoning for Vision-and-Language Navigation

把想象出的视觉观测用预训练 VAR 编码进紧凑潜空间，使多模态思维链推理不再产生大量词元开销，从而在推理时直接做指令到动作的映射；这套「隐式推理表征」思路可迁移到任何需要推理但受延迟约束的视觉-语言-动作任务。