Tag · 2 篇
Jacobi-迭代解码
01 02
SJD-PAC:通过主动起草与自适应延续加速推测式 Jacobi 解码
SJD-PAC: Accelerating Speculative Jacobi Decoding via Proactive Drafting and Adaptive Continuation
对做扩散/自回归图像生成的人来说,SJD-PAC 提供了一套无需草稿模型、且严格保持目标分布的推理加速方案:通过主动起草提升高熵区域的局部接受率,并用自适应延续在首次拒绝后继续验证序列,可直接套用到自回归视觉生成器的采样环节以提升吞吐。
面向快速自回归图像生成的并行 Jacobi 解码
Parallel Jacobi Decoding for Fast Autoregressive Image Generation
把 Jacobi 式投机解码的草稿序列从一维 token 链扩展到二维空间邻域,并配合调整注意力掩码抑制误差累积,可直接套用到 VAR、ImageGPT 等自回归图像生成器的推理阶段,在不重训的前提下换取数倍加速。