Tag · 3 篇
扩散模型对齐
分布 生成模型与扩散2图像编辑与可控生成1
01 02 03
PromptLoop:基于潜变量反馈的即插即用提示词精炼框架,用于扩散模型对齐
PromptLoop: Plug-and-Play Prompt Refinement via Latent Feedback for Diffusion Model Alignment
把提示词精炼做成逐步闭环的 RL 策略:用 MLLM 读取扩散模型中间潜变量并逐步改写提示词,从而在不改权重的前提下实现奖励对齐,可直接迁移到文生图/编辑的偏好优化与少步采样场景。
扩展与剪枝:最大化轨迹多样性以实现生成模型中有效的 GRPO
Expand and Prune: Maximizing Trajectory Diversity for Effective GRPO in Generative Models
Pro-GRPO 将基于潜变量的轨迹剪枝嵌入采样过程,通过提前终止奖励聚集的轨迹来降低计算开销,使大 group size 的 GRPO 训练在扩散/流模型中变得可行;其 Expand-and-Prune 策略可直接用于视觉生成模型的强化学习对齐。
DRM:基于扩散模型并带逐步引导的奖励模型
DRM: Diffusion-based Reward Model With Step-wise Guidance
把预训练扩散模型本身当作奖励骨干,利用其对含噪中间潜变量的逐步评估能力,为扩散模型对齐提供密集的每步奖励与推理时的路径引导,可直接迁移到任意扩散/流匹配模型的偏好优化与采样搜索。