Tag · 26 篇
基准测试
WebChain:一个大规模人工标注的真实网页交互轨迹数据集
WebChain: A Large-Scale Human-Annotated Dataset of Real-World Web Interaction Traces
提供带视觉-结构-动作三重对齐的真实网页交互轨迹,可用于训练和评测 GUI 智能体的空间视觉定位与规划解耦能力,WebChainBench 可作为视觉智能体定位任务的评测协议参考。
VisionDirector:视觉语言引导的闭环优化用于生成式图像合成
VisionDirector: Vision-Language Guided Closed-Loop Refinement for Generative Image Synthesis
提出一种无需训练的视觉语言监督器,通过结构化目标提取、动态决策、微网格采样与语义验证回滚,实现长指令下的闭环图像生成与编辑;并利用Group Relative Policy Optimization微调规划器,为可控生成提供可复用的规划与验证框架。
UnicEdit-10M:通过统一验证打破规模-质量壁垒的推理增强编辑数据集与基准
UnicEdit-10M: A Dataset and Benchmark Breaking the Scale-Quality Barrier via Unified Verification for Reasoning-Enriched Edits
该论文构建了千万级图像编辑数据集和涵盖空间与知识推理的基准,并提出了非编辑一致性和推理准确率等新指标,为训练和评估图像编辑模型提供了可复用的数据管道与诊断工具。
用视频思考:视频生成作为有前景的多模态推理范式
Thinking with Video: Video Generation as a Promising Multimodal Reasoning Paradigm
把视频生成模型(如 Sora-2)当作统一的多模态推理器,用视频帧作为推理媒介,为视觉研究者提供了一个可复用的思路:将生成式视频模型直接用于视觉问答、数学推理等任务,并可用自一致性与上下文学习提升其推理表现。
漂移核:为何扩散模型即使被要求不变也会改变输出
The Drift Kernel: Why Diffusion Models Change Even When Told Not To
该论文提出的漂移核 K_M(σ) 为量化扩散模型在空操作下的感知偏差提供了理论工具,其与解码器雅可比矩阵的关联(k_M = Tr(J_D J_D^T))可指导视觉研究者设计更稳定的解码器或评估编辑保真度。
SpatialTree:空间智能在多模态大模型中如何分支
SpatialTree: How Spatial Intelligence Branches Out in MLLMs
该论文提出的空间能力层级分类和基准测试,为评估多模态大模型的空间智能提供了系统化框架;其发现的负迁移现象和auto-think强化学习策略,对设计视觉-语言模型的空间推理训练方法有直接启发。
ShowUI-p:基于流的生成模型作为 GUI 灵巧手
ShowUI-p: Flow-based Generative Models as GUI Dexterous Hands
将流匹配生成模型用于 GUI 连续拖拽动作的闭环控制,为视觉智能体提供了一种从屏幕视觉观测直接生成平滑轨迹的轻量动作专家设计,可迁移到其他需要连续交互的视觉-动作任务。
相同内容,不同答案:多模态大语言模型中的跨模态不一致性
Same Content, Different Answers: Cross-Modal Inconsistency in MLLMs
该论文提出的REST/REST+基准可用于系统评估多模态大语言模型的跨模态一致性,其发现视觉特征(文本颜色、分辨率)和视觉token数量影响模型性能,为设计更鲁棒的视觉语言模型提供了可复用的评测方法和分析视角。
SIMSPINE:面向三维脊柱运动标注与基准测试的生物力学感知仿真框架
SIMSPINE: A Biomechanics-Aware Simulation Framework for 3D Spine Motion Annotation and Benchmarking
提供首个大规模脊柱三维关键点数据集与仿真标注框架,可用于训练和评测从单目/多视角图像估计脊柱运动的方法,并作为生物力学约束引入姿态估计的基准。
SALMUBench:敏感关联级多模态遗忘基准
SALMUBench: A Benchmark for Sensitive Association-Level Multimodal Unlearning
为视觉-语言模型(如 CLIP)的敏感信息遗忘提供了首个细粒度关联级评测基准,包含受污染/干净模型对和结构化留出集,可直接用于诊断遗忘方法的有效性与附带损伤。
ReasonMap:迈向基于交通地图的细粒度视觉推理
ReasonMap: Towards Fine-Grained Visual Reasoning from Transit Maps
ReasonMap 提供了一个需要细粒度视觉理解与空间推理的基准,可用于评估和诊断 MLLM 在视觉接地上的不足;其视觉掩码分析和强化微调基线为改进多模态模型的视觉推理能力提供了可复用的评测与训练思路。
R2G:从RTL到GDSII的多视图电路图基准套件
R2G: A Multi-View Circuit Graph Benchmark Suite from RTL to GDSII
该基准将电路图表示与模型选择解耦,其多视图信息对等设计可迁移到视觉图结构任务(如场景图、点云图)中,用于系统评估表示选择对GNN性能的影响。
ProSoftArena:在专业软件环境中基准测试多模态智能体的分层能力
ProSoftArena: Benchmarking Hierarchical Capabilities of Multi-modal Agents in Professional Software Environments
为视觉-语言-动作智能体在专业软件中的操作能力提供了首个五级能力层级和可执行评估环境,其基于执行的评估框架和人机协同效率量化方法可直接用于评测GUI智能体在真实软件工作流中的表现。
Omni-Attack:黑盒多模态大语言模型中开放端视觉问答的对抗攻击
Omni-Attack: Adversarial Attacks on Open-Ended VQA in Black-Box Multimodal LLMs
针对开放端视觉问答的黑盒迁移攻击方法,其目标构建流程和位置感知扰动策略可被复用于评估和提升多模态大模型的对抗鲁棒性。
ORIC:面向大型视觉语言模型上下文不协调下物体识别的基准测试
ORIC: Benchmarking Object Recognition under Contextual Incongruity in Large Vision-Language Models
ORIC 通过 LLM 引导采样和 CLIP 引导采样构造上下文不协调的物体-场景对,为评估 LVLM 的物体识别鲁棒性和幻觉提供了可复用的基准与训练数据构造流程;其视觉强化微调策略也可用于提升模型在非典型场景下的识别可靠性。
ORBIT:利用360度视频在野外基准测试SfM
ORBIT: Benchmarking SfM in the Wild with 360deg Video
为视觉研究者提供了一个基于360度全景视频构建的、具有挑战性的SfM相机位姿估计基准,可用于评估和推动在复杂相机运动和动态场景下的三维重建与定位方法。
NERFIFY:将NeRF论文转化为代码的多智能体框架
NERFIFY: A Multi-Agent Framework for Turning NeRF Papers into Code
为NeRF论文提供自动代码复现框架,通过CFG约束LLM生成、图思维链多文件合成和视觉反馈迭代,可加速视觉研究中的可复现性验证与基线构建。
衡量基于概念的解释的(不)忠实性
Measuring the (Un)Faithfulness of Concept-Based Explanations
提出 SURF 代理模型和忠实性度量,为评估概念解释方法提供可靠基准,可指导视觉模型可解释性研究中选择更忠实的解释方法。
匹配每一对以跟踪每一个点:PairFormer 用于全对跟踪与视频轨迹场
Matching Every Pair to Track Every Point: PairFormer for All-Pairs Tracking and Video Trajectory Fields
PairFormer 将视频中所有帧对的密集对应关系一次性预测为全对轨迹场,这种全对跟踪的设定和 CorrBank 可学习相关银行的设计,为视频运动分析提供了新的可复用范式,可直接用于光流、点跟踪和视频编辑中的轨迹提取。
MangoBench:面向多智能体目标条件离线强化学习的基准
MangoBench: A Benchmark for Multi-Agent Goal-Conditioned Offline Reinforcement Learning
为视觉驱动的具身智能体提供多目标离线训练与评测基准,其47个任务覆盖高维视觉输入下的联合控制与双臂操作,可直接用于检验视觉表征在稀疏奖励下的目标泛化能力。
MMR-AD:面向多模态大语言模型通用异常检测基准的大规模多模态数据集
MMR-AD: A Large-Scale Multimodal Dataset for Benchmarking General Anomaly Detection with Multimodal Large Language Models
提供了一个面向多模态大语言模型通用异常检测的大规模训练与评测基准,并给出基于思维链和强化学习的基线模型 Anomaly-R1,可作为视觉研究者探索 MLLM 在工业异常检测中后训练与推理增强的起点。
IPR-1:交互式物理推理器
IPR-1: Interactive Physical Reasoner
用世界模型 rollout 作为奖励信号来强化 VLM 策略,并用物理中心动作码(PhysCode)对齐语义意图与动力学,为视觉研究者提供了一种在交互环境中把预测模型与推理模型耦合的可复用范式。
INSIGHT基准:面向机器人操作的场景内引导视觉定位
INSIGHT Bench: Towards Grounded IN-SItu Guidance for Robotic ManipulaTion
论文提出的“in-situ guide grounding”任务要求视觉语言动作模型(VLA)理解物体上的文字和符号(如“PULL”),这为视觉定位研究提供了新的场景和评测基准;其可扩展的仿真框架和程序化生成方法可用于训练和评估模型对物体中心信息的理解能力。
HERBench:视频问答中多证据整合的基准
HERBench: A Benchmark for Multi-Evidence Integration in Video Question Answering
HERBench 提供了强制多证据整合的视频问答基准,并引入最小所需帧集(MRFS)量化证据需求,可用于诊断视频大模型在检索与融合上的瓶颈,指导设计更鲁棒的多帧推理模型。
GraphVLM:面向多模态图学习的视觉语言模型基准测试
GraphVLM: Benchmarking Vision Language Models for Multimodal Graph Learning
该基准系统评估了VLM作为编码器、对齐器和预测器三种范式在多模态图学习中的表现,为视觉研究者将VLM与图结构数据结合提供了可复用的评测框架和范式参考。
EduDiag:面向大型多模态模型错误追踪与纠正的教育诊断推理基准
EduDiag: A Benchmark for Educational Diagnostic Reasoning with Error Tracing and Correction on Large Multimodal Models
该论文提出的教育诊断推理任务要求LMM从错误答案逆向重建错误推理链并生成纠正反馈,为多模态推理评估提供了新方向;其构建的8K错误推理链数据集和GRPO优化策略可复用于提升视觉语言模型的推理与纠错能力。