Tag · 3 篇
分数匹配
分布 生成模型与扩散2视觉语言模型1
01 02 03
RNED:面向医学视觉语言模型的旋转数值编码与解码
RNED: Rotary Number Encoding and Decoding for Medical VLMs
RNED 将连续数值编码为旋转矩阵作用于专用数值词元嵌入,并设计基于分数匹配的解码器,可直接用于视觉语言模型中的坐标回归、尺寸估计等连续量预测任务,替代离散化词元方案。
分阶段 DMD:基于子区间内分数匹配的少步分布匹配蒸馏
Phased DMD: Few-step Distribution Matching Distillation via Score Matching within Subintervals
把 SNR 区间切分并逐段做分布匹配与分数匹配蒸馏,配合 MoE 提升少步生成器容量,可直接用于把大规模文生图/文生视频扩散模型压缩成少步采样器,同时缓解随机梯度截断带来的多样性下降与运动动态变慢问题。
C^2FG:通过分数差异分析控制无分类器引导
C^2FG: Control Classifier-Free Guidance via Score Discrepancy Analysis
把 CFG 的引导权重从固定/启发式改为随扩散时间步指数衰减的控制函数,且免训练、即插即用,可直接替换现有条件扩散采样器中的 guidance 调度,用于提升条件生成质量并与其他引导策略正交叠加。