Tag · 2 篇

投机解码

分布高效模型与推理加速1数据集与评测1

VVS: Accelerating Speculative Decoding for Visual Autoregressive Generation via Partial Verification Skipping

把 LLM 里的投机解码搬到视觉自回归生成上，并首次提出「跳过验证步」：用动态截断的免验证词元选择器 + 词元级特征缓存复用 + 细粒度跳步调度，直接减少目标模型前向次数（2.8×），对做视觉 AR 生成（如 VAR 类模型）落地加速的人是一套可直接复用的推理框架。

PIX-TAB: Efficient PIXel-Precise TABle Structure Recognition Approach with Speculative Decoding and Region-Based Image Segmentation

位置感知的像素级 token 与仅训练期使用的框监督，为文档版面这类密集结构化预测提供了可复用的空间定位方案；投机解码在序列式结构生成上的加速也可迁移到其他自回归式视觉输出任务。