多-GPU-并行

Otil：通过通信高效的多 GPU 并行加速扩散模型推理

Otil: Accelerating Diffusion Model Inference via Communication-Efficient Multi-GPU Parallelism

对做扩散模型高分辨率/视频生成的研究者，这是一种即插即用的多卡并行推理方案：利用相邻去噪步潜变量变化微小的性质，只同步信息量最大的潜变量子块并周期性轮询全部空间区域，可在不改架构、不重训的前提下把 GPU 间通信降低最多 87.5%，与少步采样器和低秩适配叠加后进一步提速。