Tag · 8 篇

组相对策略优化

分布 视觉语言模型5其他1医学影像与生物视觉1生成模型与扩散1
01
视觉语言模型 / CVPR2026

TTRV:面向视觉语言模型的测试时强化学习

TTRV: Test-Time Reinforcement Learning for Vision Language Models

把 GRPO 式的强化学习从训练阶段搬到推理阶段:对每个测试样本多次采样,用基座模型输出频率构造奖励,并加入经验分布熵正则控制多样性,从而在无任何标注的情况下在线提升 VLM 的识别与 VQA 表现,可直接复用于任意现成 LVLM 的测试时增强。

测试时自适应强化学习微调组相对策略优化
02
视觉语言模型 / CVPR2026

TRivia:面向表格识别的视觉语言模型自监督微调

TRivia: Self-supervised Fine-tuning of Vision-Language Models for Table Recognition

把 GRPO 式的强化学习自监督微调用在 VLM 上,用「识别结果能否被正确问答」构造无需标注的奖励信号,并配注意力引导的多样化问题生成;这套闭环奖励设计可迁移到任何缺乏标注的结构化图像解析任务(如公式、图表、版面解析)。

自监督微调组相对策略优化强化学习奖励机制
03
视觉语言模型 / CVPR2026

SafeGRPO:通过规则约束的策略优化实现自奖励多模态安全对齐

SafeGRPO: Self-Rewarded Multimodal Safety Alignment via Rule-Governed Policy Optimization

对做多模态大模型安全对齐的研究者,这篇给出了可复用的配方:用带视觉/文本/组合安全标签的数据集构造规则化可验证奖励,再接入 GRPO 做自奖励强化学习,并配合分步安全思维链约束推理轨迹;可直接迁移到其他 VLM 的安全微调或推理时风险感知训练。

多模态安全对齐规则奖励设计组相对策略优化
04
其他 / CVPR2026

RAAS:基于 GRPO 的大语言模型智能体系统架构搜索

RAAS: LLM Agentic System Architecture Search with GRPO

论文提出的「同查询候选群组对比 + 多试验聚合」稳定评估思路,可直接迁移到视觉智能体(如视觉工具调用、多模态推理流水线)的架构搜索与自动设计,缓解绝对分数受任务难度干扰的问题。

智能体架构搜索大语言模型智能体组相对策略优化
05
医学影像与生物视觉 / CVPR2026

KAMP:面向医学图像表征的知识锚定多模态预训练框架

KAMP: Knowledge-Anchored Multimodal Pretraining Framework for Medical Image Representation

用大语言模型从临床文本与影像元数据生成个性化诊断知识,作为语义锚点注入图像表征,并用跨模态对齐器作奖励模型做 GRPO 优化——这套「文本先验锚定 + 对齐器即奖励」的流程可迁移到任何配对数据稀缺的视觉-语言预训练场景。

多模态预训练大语言模型跨模态对齐
06
视觉语言模型 / CVPR2026

从探索到利用:面向噪声容忍 MLLM 训练的两阶段熵 RLVR 方法

From Exploration to Exploitation: A Two-Stage Entropy RLVR Approach for Noise-Tolerant MLLM Training

对做 MLLM 后训练的人,这套「先熵最大化探索、后熵最小化利用」的 token 级熵调度可直接插到 GRPO 训练循环里,用来在标注噪声大的视觉问答/多模态推理数据上稳住组内奖励方差、避免过早收敛到错标。

强化学习可验证奖励组相对策略优化token级熵正则
07
生成模型与扩散 / CVPR2026

课程组策略优化:自适应采样释放文生图生成潜力

Curriculum Group Policy Optimization: Adaptive Sampling for Unleashing the Potential of Text-to-Image Generation

把 GRPO 训练中的提示词采样从均匀改为按组奖励方差自适应加权,可直接迁移到扩散/流匹配模型的强化学习后训练,用来提升提示词对齐与训练效率;类别校准的比例公平思路也可用于多类别文生图数据配比。

强化学习微调课程学习自适应采样
08
视觉语言模型 / CVPR2026

AVATAR:通过强化学习在视频上看见、听见与推理

AVATAR: Reinforcement Learning to See, Hear, and Reason Over Video

对做视频多模态推理的人,这篇给出了一个可直接复用的强化学习后训练配方:用离策略样本回放缓解 GRPO 的组内奖励同质化(优势消失),并用时序优势塑形把信用集中到规划与综合两端阶段,可迁移到任意视频/音视频 VLM 的 RL 微调流程。

强化学习微调组相对策略优化离策略训练