Tag · 13 篇

医学视觉问答

分布 视觉语言模型11数据集与评测2
01
数据集与评测 / CVPR2026

X-PCR:眼科诊断中跨模态渐进式临床推理基准

X-PCR: A Benchmark for Cross-modality Progressive Clinical Reasoning in Ophthalmic Diagnosis

该基准为视觉-语言模型在眼科诊断中的渐进式推理与跨模态整合能力提供了细粒度评测协议,其六阶段推理链和六模态整合任务可直接用于诊断多模态模型在临床视觉推理中的短板。

多模态大语言模型评测医学视觉问答跨模态推理
02
视觉语言模型 / CVPR2026

以最少微调数据实现高效医学推理

Towards Efficient Medical Reasoning with Minimal Fine-Tuning Data

对做医学 VLM 适配的人,这篇给出了一个可直接复用的数据筛选准则:用样本梯度影响与难度的二维象限联合打分,只保留「高难度-高影响」样本,从而在 1% 数据下逼近全量微调效果,可迁移到任意 VLM 的领域 SFT 数据蒸馏流程。

数据选择监督微调基于梯度的样本影响
03
视觉语言模型 / CVPR2026

稀疏谱 LoRA:面向医学视觉语言模型的路由专家

Sparse Spectral LoRA: Routed Experts for Medical VLMs

把预训练权重按 SVD 分段初始化 MoE 专家,并配一个与全秩全量微调对齐的缩放规则,为视觉语言模型在异构医学数据上做参数高效适配提供了可复用的低秩专家路由方案,可直接迁移到其他多数据集 VLM 微调场景。

参数高效微调混合专家奇异值分解
04
视觉语言模型 / CVPR2026

OralGPT-Plus:通过强化学习学会使用视觉工具进行全景 X 光分析

OralGPT-Plus: Learning to Use Visual Tools via Reinforcement Learning for Panoramic X-ray Analysis

把「调用视觉工具做局部复查 + 对侧对称比较」建模成可学习的多步推理策略,并用 rubric 奖励与诊断驱动奖励稳定长程强化学习,这套 agentic 交互范式可迁移到任何需要细粒度空间核查的视觉语言模型任务(如病灶定位、遥感判读)。

智能体视觉语言模型强化学习工具调用
05
视觉语言模型 / CVPR2026

OctoMed:面向最优多模态医学推理的数据配方

OctoMed: Data Recipes for State-of-the-Art Multimodal Medical Reasoning

对做医学 VLM 的人,这篇给出了可复用的 SFT 数据配方:用长度多样的结构化推理链做监督微调,模型就能在下游任务上自适应地决定推理长度,无需额外监督;可直接迁移到自建医学多模态推理模型的训练数据构造与配比设计上。

监督微调数据筛选策略结构化推理链
06
视觉语言模型 / CVPR2026

MedTVT-R1:赋能医学推理与诊断的多模态大语言模型

MedTVT-R1: A Multimodal LLM Empowering Medical Reasoning and Diagnosis

模态感知层对异构模态(影像、生理信号、文本)做自适应加权融合,配合 GRPO 强化微调与 Jaccard 奖励,可直接迁移到需要多源视觉证据联合推理的医学 VQA 与报告生成任务。

多模态大语言模型医学视觉问答强化微调
07
视觉语言模型 / CVPR2026

MedFG-VQA:面向轻量级医学视觉问答的低频记忆与图注意力

MedFG-VQA: Low-Frequency Memory and Graph Attention for Lightweight Medical VQA

把 DCT 低频特征与可学习记忆库结合、再用图卷积聚合精炼交叉注意力输出的做法,可直接迁移到其他视觉-语言对齐任务(如 captioning、grounding)中做轻量化的多模态融合模块。

医学视觉问答交叉注意力图卷积网络
08
数据集与评测 / CVPR2026

Med-CMR:融合视觉证据与临床逻辑的医学复杂多模态推理细粒度基准

Med-CMR: A Fine-Grained Benchmark Integrating Visual Evidence and Clinical Logic for Medical Complex Multimodal Reasoning

为医学多模态大模型提供按能力维度拆解的细粒度评测协议:把视觉理解拆成小目标检测、细节判别、空间理解,把推理拆成时序预测、因果推理、长尾泛化、多源整合,可直接用于诊断自研医学 VLM 的失效环节,尤其是长尾病例的视觉证据整合能力。

医学视觉问答多模态大模型评测细粒度视觉理解
09
视觉语言模型 / CVPR2026

MR-RAG:面向医学视觉问答的多模态相关性感知检索增强生成

MR-RAG: Multimodal Relevance-Aware Retrieval-Augmented Generation for Medical Visual Question Answering

对做医学 VQA 或多模态 RAG 的研究者,这篇给出了一个可复用的双阶段思路:检索端用模态内与跨模态信号联合打分做文档对齐,生成端按融合后的相关性重加权注意力路径,可直接迁移到其他需要外部知识注入的视觉问答系统。

检索增强生成多模态检索注意力路径调控
10
视觉语言模型 / CVPR2026

LLaDA-MedV:探索用于生物医学图像理解的大语言扩散模型

LLaDA-MedV: Exploring Large Language Diffusion Models for Biomedical Image Understanding

将掩码扩散语言模型(LLaDA)通过视觉指令微调迁移到生物医学图像理解,为视觉-语言建模提供了一条非自回归的替代路径;其关于初始化权重选择、微调策略以及采样步数与响应重复之间权衡的分析,对任何尝试用扩散式语言模型做多模态生成的视觉研究者都有直接参考价值。

掩码扩散模型视觉指令微调医学视觉问答
11
视觉语言模型 / CVPR2026

FairLLaVA:面向大型视觉语言助手的美公平性感知参数高效微调

FairLLaVA: Fairness-Aware Parameter-Efficient Fine-Tuning for Large Vision-Language Assistants

把互信息最小化当作表示层正则项,配合低秩适配器做插件式微调,可在不改动 MLLM 主干的前提下压制视觉指令微调中的群体偏差;做医学影像报告生成或 VQA 时,这套「公平性正则 + LoRA」的组合可直接迁移到自己的多模态模型上。

参数高效微调低秩适配公平性正则
12
视觉语言模型 / CVPR2026

基于双层级置信度的医学视觉问答隐式自精炼

Dual-Level Confidence based Implicit Self-Refinement for Medical Visual Question Answering

提出双层级置信度(损失级与特征级)自适应融合为样本级权重,用于伪监督自训练,可迁移到其他视觉语言模型在分布偏移下的测试时自适应或半监督微调。

医学视觉问答伪标签自训练置信度估计
13
视觉语言模型 / CVPR2026

像病理学家一样思考:组织感知的全切片图像推理

Act Like a Pathologist: Tissue-Aware Whole Slide Image Reasoning

把「问题引导的由粗到细检索」用于超大幅图像(全切片)的视觉语言推理:先用分组采样器定位与问题相关的组织区域,再用图像块选择器挑出信息量最大的图像块,从而把视觉词元减少约 70%。这套「先粗筛区域、再细选图像块」的检索式词元压缩思路,可直接迁移到高分辨率图像或视频的 VLM 推理中,用来降低词元开销并提升可解释性。

全切片图像检索增强由粗到细