分布式并行推理

基于条件引导调度的混合数据-流水线并行扩散加速

Accelerating Diffusion via Hybrid Data-Pipeline Parallelism Based on Conditional Guidance Scheduling

对做扩散模型部署的人，这篇给出了一个可直接复用的思路：把条件/无条件两条去噪路径当作数据划分维度，并按两条路径的去噪差异自适应切换流水线并行度，从而在多卡上把生成延迟压下来而不引入明显伪影。