Tag · 5 篇
可验证奖励强化学习
迈向策略自适应的图像护栏:基准与方法
Towards Policy-Adaptive Image Guardrail: Benchmark and Method
对做视觉安全审核的人,这篇给出了一个用图像编辑模型构造「仅局部违规」安全-不安全图像对的基准构造范式,以及用可验证奖励强化学习(RLVR)替代固定策略 SFT 来让 VLM 护栏跨策略泛化的训练思路,可直接迁移到内容审核与越狱防御模型。
TimeLens:重新审视多模态大语言模型的视频时序定位
TimeLens: Rethinking Video Temporal Grounding with Multimodal LLMs
对做视频-语言理解的人,这篇给出了把 MLLM 训练成强时序定位器的完整配方:交错文本时间编码、免思维链的 RLVR 训练范式,以及一套可复用的高质量重标注流程与修正后的评测基准,可直接用于重训或重评自己的时序定位模型。
PhyCritic:面向物理 AI 的多模态评判模型
PhyCritic: Multimodal Critic Models for Physical AI
自参照评判(critic 先自行生成预测作为内部参照再打分)这一机制可直接迁移到视觉生成/编辑结果的自动评测与偏好数据筛选,为扩散模型或 VLM 的 RLHF/RLVR 提供更稳定的奖励信号。
MSRL:通过多阶段强化学习扩展生成式多模态奖励建模
MSRL: Scaling Generative Multimodal Reward Modeling via Multi-Stage Reinforcement Learning
对做视觉生成与理解评测的人,这篇给出了一个可复用的思路:用大规模纯文本偏好数据先训练出可泛化的奖励推理能力,再经 caption 阶段和全多模态 RL 阶段迁移到视觉奖励模型,从而在缺少多模态偏好标注时也能扩展 MRM 训练;其中的跨模态蒸馏环节可直接用于提升视觉奖励模型的偏好泛化。
GUI-SAGE:以自解释学习增强 GUI 自动化
GUI-SAGE: Enhancing GUI Automation with Self-Explanatory Learning
对做视觉智能体(GUI/具身)的人,这篇给出一个可复用思路:用真值动作条件化生成同分布推理轨迹,替代分布外专家示范,避免熵坍缩;配合熵调制的信用分配,把置信度与奖励联合加权,可直接迁移到视觉-语言-动作策略的 RL 微调。