Tag · 17 篇
工具调用
VideoSeek:具备工具引导搜索能力的长时程视频智能体
VideoSeek: Long-Horizon Video Agent with Tool-Guided Seeking
把「视频逻辑流」当作主动搜索线索,用 think-act-observe 循环加多粒度工具按需取帧,替代对密集采样帧的穷举解析;做长视频 VQA 或视频推理时可直接复用这套按需取帧的智能体框架,在帧数大幅下降的同时保持甚至提升精度。
VideoChat-M1:通过多智能体强化学习实现面向视频理解的协作策略规划
VideoChat-M1: Collaborative Policy Planning for Video Understanding via Multi-Agent Reinforcement Learning
把视频理解建模为多个策略智能体各自生成、执行并相互通信更新工具调用策略的过程,并用最终答案奖励与中间协作反馈做联合强化学习优化;对做长视频/复杂时序推理的视觉研究者,这是一套可复用的「多智能体+工具调用+MARL」框架,可替代静态固定的工具链。
VideoARM:面向长视频理解的分层记忆智能体推理
VideoARM: Agentic Reasoning over Hierarchical Memory for Long-Form Video Understanding
提出一种无需穷举预处理的自适应智能体推理框架,通过控制器调用工具进行由粗到细的视频解析,并维护分层多模态记忆,为长视频理解中的高效多模态大模型推理提供了可复用的记忆构建与工具调度机制。
SpatialScore:迈向空间智能的全面评测
SpatialScore: Towards Comprehensive Evaluation for Spatial Intelligence
该基准覆盖 30 类空间任务与多种视觉数据形态,可直接用于诊断视觉语言模型在空间关系、视角变换上的短板;其 331K 监督微调语料与 12 个空间感知工具构成的多智能体框架,为在视觉模型中注入空间推理能力提供了可复用的数据与免训练工具编排思路。
看得更远,想得更深:以低层视觉线索与反思提升视觉语言模型的推理能力
See Further, Think Deeper: Advancing VLM's Reasoning Ability with Low-level Visual Cues and Reflection
把低层视觉工具(如显著性/掩码提取)接入 VLM 的思维链,并用基于掩码的视觉反馈让模型在推理中回看图像、修正答案;对做视觉推理、细粒度视觉定位或多模态 agent 的研究者,这是一套可复用的「工具调用+视觉反思」RL 训练范式。
感知证明:具备组合共形保证的可认证工具使用多模态推理
Proof-of-Perception: Certified Tool-Using Multimodal Reasoning with Compositional Conformal Guarantees
把每个感知/逻辑节点包成共形预测集,为多模态推理链提供逐步校准的不确定性,可用来决定何时追加工具调用、何时提前停止,从而抑制视觉问答中的误差累积与幻觉。
PSDesigner:具备类人创意工作流的自动化平面设计
PSDesigner: Automated Graphic Design with a Human-Like Creative Workflow
把图形设计建模为 MLLM 驱动的工具调用序列,在可编辑 PSD 文件上做资产检索、插入与元素精修;其 CreativePSD 数据集(带操作轨迹的 PSD 文件)可作为视觉研究者研究「可编辑分层图像生成/编辑」与「指令到操作序列」的监督来源。
OralGPT-Plus:通过强化学习学会使用视觉工具进行全景 X 光分析
OralGPT-Plus: Learning to Use Visual Tools via Reinforcement Learning for Panoramic X-ray Analysis
把「调用视觉工具做局部复查 + 对侧对称比较」建模成可学习的多步推理策略,并用 rubric 奖励与诊断驱动奖励稳定长程强化学习,这套 agentic 交互范式可迁移到任何需要细粒度空间核查的视觉语言模型任务(如病灶定位、遥感判读)。
LongVT:通过原生工具调用激励“用长视频思考”
LongVT: Incentivizing "Thinking with Long Videos" via Native Tool Calling
将LMM固有的时序定位能力作为原生视频裁剪工具,实现全局到局部的迭代推理,为长视频理解提供可复用的智能体框架与数据构造流程。
LensWalk:通过规划视频观看方式实现智能体式视频理解
LensWalk: Agentic Video Understanding by Planning How You See in Videos
把「看哪里、看多密」变成智能体可调的工具参数,视觉研究者可借鉴这种按需采样+工具编排的推理范式,用于长视频问答与证据定位,无需微调即可插拔到现有 VLM 配方上。
IBISAgent:强化多模态大模型中的像素级视觉推理,实现通用生物医学目标指代与分割
IBISAgent: Reinforcing Pixel-Level Visual Reasoning in MLLMs for Universal Biomedical Object Referring and Segmentation
把分割重构为多轮「文本点击动作 + 调用分割工具」的智能体决策过程,无需改动 MLLM 架构、也无需联合微调解码器,这种「MLLM 输出点击坐标驱动外部分割器」的范式可直接迁移到通用指代分割与交互式分割,并天然支持掩码迭代精修。
几何约束智能体用于空间推理
Geometrically-Constrained Agent for Spatial Reasoning
把 VLM 从「直接输出几何答案」改为「先形式化出参考系与目标约束、再在约束内调用几何工具」,这一免训练的约束式智能体范式可直接迁移到视觉空间问答、具身导航与 3D 场景理解中的几何推理管线。
从直觉到探究:面向可泛化人脸反欺骗的工具增强推理多模态大模型框架
From Intuition to Investigation: A Tool-Augmented Reasoning MLLM Framework for Generalizable Face Anti-Spoofing
把外部视觉工具(如放大、局部裁剪等细粒度分析算子)接入 MLLM 的推理链,并用 GRPO 类强化学习让模型自主决定何时调用工具,这一「工具增强思维链」范式可直接迁移到需要细粒度视觉证据的检测/鉴伪任务。
CodeV:以图像代码实现忠实视觉推理的工具感知策略优化
CodeV: Code with Images for Faithful Visual Reasoning via Tool-Aware Policy Optimization
对做多模态视觉推理智能体的人,这篇提供了可复用的过程级奖励设计思路:把奖励直接定义在图像裁剪等工具输入/输出上而非思维链 token 上,并用可执行 Python 代码表示视觉工具,从而抑制奖励作弊、提升工具使用的证据一致性;其忠实性评测协议也可直接用于诊断自家 VLM 的"猜对答案但推理不忠实"问题。
CodeDance:一种用于可执行视觉推理的动态工具集成多模态大语言模型
CodeDance: A Dynamic Tool-integrated MLLM for Executable Visual Reasoning
将可执行代码作为视觉推理的通用求解器,通过动态组合工具(如检测、绘图)并渲染中间视觉产物,实现透明、可自检的推理过程;其强化学习训练中涌现的工具组合与跨任务迁移能力,为视觉语言模型的可解释推理与工具增强提供了新范式。
AdaptVision:通过自适应视觉获取实现高效视觉语言模型
AdaptVision: Efficient Vision-Language Models via Adaptive Visual Acquisition
把「视觉词元数量」当作可由模型自主决策的动作,用强化学习(DTPO)在粗到细的流程中决定何时调用裁剪工具获取高分辨率区域,为视觉研究者提供了一种按样本自适应分配视觉计算预算、而非固定比例压缩的 VLM 推理范式。
ARM-Thinker:通过智能体工具使用与视觉推理强化多模态生成式奖励模型
ARM-Thinker: Reinforcing Multimodal Generative Reward Models with Agentic Tool Use and Visual Reasoning
提出了一种可自主调用外部工具(如图像裁剪、文档检索)的多模态奖励模型,通过多阶段强化学习联合优化工具调用决策与判断准确性,为视觉语言模型的奖励建模提供了可验证证据和可解释性,可复用于需要细粒度视觉验证的视觉语言任务。