Tag · 3 篇
多图推理
分布 视觉语言模型2数据集与评测1
01 02 03
多模态模型会被多图视觉谜题难住吗?
Will Multimodal Models Be Dazzled by Multi-Image Visual Puzzles?
对做多图/多帧视觉语言推理的人,MIRACLE 提供了强制跨图依赖的评测协议与实例分组设计,可直接用来诊断 MLLM 在高视觉信息密度(谜题、超多图输入)下的结构性关系推理短板,并作为多图训练数据的构造参考。
模仿人类认知,掌握多图推理:一种增强视觉理解的元动作框架
Mimic Human Cognition, Master Multi-Image Reasoning: A Meta-Action Framework for Enhanced Visual Understanding
把多图/多帧推理拆成 Global/Focus/Hint/Think/Answer 五个元动作,并用检索式树采样构造冷启动轨迹、再用两阶段强化学习(多样性保持探索 + DAPO 退火利用)训练,可直接迁移到需要跨图跨帧聚合证据的视觉语言任务上。
细粒度多图物体幻觉基准
Fine-Grained Multi Image Object Hallucination Benchmark
做多模态大模型视觉理解时,可把 MIOH 的三类多图推理模式(综合/对比/选择)与三种对抗压力(视觉上下文规模、感知难度、上下文偏置)当作诊断探针,定位幻觉是发生在感知阶段还是跨图对象表征整合阶段,从而指导多图融合模块的设计与评测。