Tag · 104 篇
多模态融合
x^2-Fusion:事件边缘空间中的跨模态与跨维度流估计
x^2-Fusion: Cross-Modality and Cross-Dimension Flow Estimation in Event Edge Space
把事件相机输出的时空边缘当作统一的潜空间锚点,让图像与激光雷达特征显式对齐到同一表示,再做可靠性感知的自适应融合;这套「以事件边缘场为共享潜空间」的思路可直接迁移到其他多传感器融合任务(如深度补全、BEV 感知),跨维度对比学习也可用于耦合 2D 与 3D 运动估计。
视觉在哪里与语言相遇?通过对比注意力理解并改进 MLLM 中的视觉融合
Where Does Vision Meet Language? Understanding and Refining Visual Fusion in MLLMs via Contrastive Attention
提供了一种免训练的对比注意力机制,通过建模早期融合层与最终层之间的注意力变换来突出有意义的注意力转移,可直接插入任意 MLLM 的推理过程以提升多模态推理,无需微调;其逐层掩码分析范式也可用于诊断其他视觉-语言模型的融合位置。
VoxTell:可自由文本提示的通用三维医学图像分割
VoxTell: Free-Text Promptable Universal 3D Medical Image Segmentation
把自由文本提示(单词到完整临床句子)映射为三维掩码,并在解码器各层做多尺度视觉-语言融合,为医学体数据分割提供可复用的零样本跨模态迁移范式;其跨模态迁移与语言变体鲁棒性评测协议也值得借鉴。
VideoFusion:用于多模态视频融合的时空协同网络
VideoFusion: A Spatio-Temporal Collaborative Network for Multi-modal Video Fusion
提出面向视频的多模态融合框架,其双时序协同注意力机制可动态聚合前后向时序上下文,为视频复原、增强等任务中时空一致性建模提供可复用模块;同时发布的M3SVD基准数据集填补了多传感器视频融合的数据空白,便于后续研究公平对比。
VT-Intrinsic:基于单对可见光-热红外图像的物理反射率与光照分解
VT-Intrinsic: Physics-Based Decomposition of Reflectance and Shading using a Single Visible-Thermal Image Pair
利用可见光-热红外图像对的强度序关系进行自监督,为反射率与光照分解提供物理约束,可推广到其他需要物理先验的逆渲染任务。
VRCLIP:面向CLIP驱动的视觉-无线电行人重识别的多模态典型相关对齐
VRCLIP: Multimodal Canonical Correlation Alignment for CLIP-Driven Vision-Radio Person Re-Identification
把跨模态对齐从分布匹配改成典型相关分析(CCA)子空间上的相关性最大化,避免过度正则化削弱模态内判别性;这个思路可直接迁移到RGB-红外、RGB-深度、RGB-文本等任意异质模态ReID或检索任务的特征融合环节。
VIMCAN:基于混合 Mamba-交叉注意力网络的视觉-惯性三维人体姿态估计
VIMCAN: Visual-Inertial 3D Human Pose Estimation with Hybrid Mamba-Cross-Attention Network
用 Mamba 的选择性状态空间建模替代 Transformer 做时序建模、用交叉注意力补空间依赖,为视觉-惯性等多模态序列融合提供了一条线性复杂度、可实时(>60 FPS)的骨干设计思路,可直接迁移到其他需要长序列多模态融合的视觉任务。
UniFusion:兼具鲁棒表征与源感知保持的统一图像融合框架
UniFusion: A Unified Image Fusion Framework with Robust Representation and Source-Aware Preservation
用 DINOv3 冻结特征构建跨模态共享语义空间,并用重建-对齐损失约束融合输出与各源图的一致性,这套「基础模型特征 + 重建约束」的组合可直接迁移到多曝光/多聚焦/红外-可见光等任意多源融合与复原任务,双层优化解耦融合与重建目标的思路也适用于其他多目标耦合的低层视觉训练。
Uni-Encoder 遇上多编码器:面向缺失模态脑肿瘤分割的融合前表征
Uni-Encoder Meets Multi-Encoders: Representation Before Fusion for Brain Tumor Segmentation with Missing Modalities
两阶段「先表征后融合」的异构架构值得借鉴:先用掩码图像建模预训练单一 ViT 获得对模态缺失鲁棒的全局表征,再接入模态特定的 CNN 多编码器补回高分辨率细节,这一解耦思路可迁移到其他多模态缺失输入的密集预测任务。
面向未对齐 RGB-T 显著性目标检测的不确定性感知模态融合
Uncertainty-Aware Modality Fusion for Unaligned RGB-T Salient Object Detection
把像素特征建模为高斯潜变量分布来估计局部不确定性,从而在特征空间内实现免配准的隐式跨模态对齐,并用置信度图调制融合权重;这套「不确定性驱动对齐+融合」思路可直接迁移到其他未配准多模态密集预测任务(如 RGB-D 分割、多光谱检测)。
面向无人机目标检测的三模态融合Transformer
Tri-Modal Fusion Transformers for UAV-based Object Detection
MAGE 的通道-空间门控与 BiTE 的双向词元级注意力提供了一套可复用的多模态融合模块,可直接插入 ViT 编码器的指定深度;其 61 组消融对融合位置与融合机制的对比,为设计多传感器检测骨干网络提供了实证参考。
通过事件衍生的瞬态线索实现严重遮挡下的跟踪
Tracking through Severe Occlusion via Event-Derived Transient Cues
将事件相机微秒级时间戳用于帧间位移预测的双向运动一致性约束,并用高斯掩码模拟遮挡退化来学习不变外观表征,为严重遮挡下的跟踪提供了可复用的事件-帧融合与遮挡增广思路。
迈向3D世界中的视觉查询定位
Towards Visual Query Localization in the 3D World
论文提出的3DVQL基准和LaF融合算法为视觉研究者提供了在3D点云与RGB-D数据上进行时空查询定位的新任务设定和可复用的多模态融合模块,可直接用于点云-图像融合的定位与跟踪研究。
面向 3D 人体姿态估计的平衡多模态学习
Towards Balanced Multi-Modal Learning in 3D Human Pose Estimation
用 Shapley 值量化各模态(RGB/LiDAR/mmWave/WiFi)对 3D 姿态估计的边际贡献来诊断模态不平衡,并配合训练早期的学习节奏调控策略,可迁移到任何多模态融合的视觉任务中做模态权重诊断与平衡训练。
TouchDream:通过想象触觉实现三维物体补全
TouchDream: 3D Object Completion through Imagined Touch
把触觉传感当作可生成的模态:以粗点云和采样接触位姿为条件,用扩散模型生成紧凑的触觉潜变量,再将其反投影到 3D 空间来优化几何,为点云补全提供了一条不依赖视觉线索、可复用的细节引导思路。
Thermal-Det:面向开放词表热成像目标检测的语言引导跨模态蒸馏
Thermal-Det: Language-Guided Cross-Modal Distillation for Open-Vocabulary Thermal Object Detection
把冻结的 RGB 开放词表检测器当作教师,为成对但无标注的 RGB-热成像数据提供几何与语义伪监督,这一跨模态蒸馏范式可直接迁移到其他缺少标注的成像域(如近红外、深度、事件相机)的开放词表检测。
TerraScope:面向地球观测的像素级视觉推理
TerraScope: Pixel-Grounded Visual Reasoning for Earth Observation
把像素级掩码嵌入推理链,让 VLM 在输出答案的同时给出可验证的分割证据,这一「推理链内嵌掩码」的监督构造方式可迁移到需要空间定位的视觉问答与指代任务;其光学/SAR 自适应融合与多时相序列建模也为遥感 VLM 提供了可复用的输入组织范式。
TIGeR:时间、图像与地理位置检索的统一框架
TIGER: A Unified Framework for Time, Images and Geo-location Retrieval
TIGeR 用同一套表征同时完成地理定位、拍摄时间预测与「同地异时」图像检索,其核心思路是在外观剧烈变化下保持地点身份不变——这对做跨视角/跨季节地点识别、以及需要把时间作为检索条件的视觉检索系统,提供了一个可复用的多模态查询接口与训练范式。
多多益善:面向高阶多模态对齐的对比融合
THE MORE, THE MERRIER: CONTRASTIVE FUSION FOR HIGHER-ORDER MULTIMODAL ALIGNMENT
ConFu 把「模态对」与「模态对+第三模态」的融合嵌入一起拉进同一对比空间,可直接用于视觉-语言-音频等三模态检索与分类;做 VLM 时若需建模图像、文本、音频之间的 XOR 式互补关系,可把该融合对比项接到现有 CLIP 式双塔上,而不必放弃成对对齐。
时空差分引导的互补视觉传感器运动去模糊
Spatio-Temporal Difference Guided Motion Deblurring with the Complementary Vision Sensor
把 CVS 传感器输出的高帧率多比特空间差分(SD,编码结构边缘)与时序差分(TD,编码运动线索)作为额外模态,用循环多分支网络迭代编码融合来引导 RGB 去模糊,为极端运动下的复原提供了「事件相机之外」的新传感模态与融合范式。
空间检索增强的自动驾驶
Spatial Retrieval Augmented Autonomous Driving
把离线检索的地理图像作为额外输入模态,与车载传感器特征对齐融合,为遮挡、暗光、雨雾等感知退化场景提供先验;做自动驾驶感知/规划的研究者可以把它当作即插即用的额外输入分支,或直接使用其扩展的 nuScenes 基准来评测跨模态融合。
SpaceMind:面向视觉语言模型空间推理的相机引导模态融合
SpaceMind: Camera-Guided Modality Fusion for Spatial Reasoning in Vision-Language Models
把相机表示当作主动引导模态、在语言模型前用轻量融合模块对空间 token 做相机条件化偏置与门控,这一思路可直接迁移到任何需要几何 grounding 的 RGB-only VLM 中,替代浅层特征拼接。
MoE-VLM 中软模态引导的专家特化
Soft Modality-Guided Expert Specialization in MoE-VLMs
对做多模态大模型的人来说,这篇给出了一个可复用的路由改造思路:用随层变化的软模态分数(注意力或高斯统计得到)驱动专家分配,并加互信息正则化让专家按模态分工,同时按专家并行部署做分箱以降低通信;可直接迁移到任意 MoE-VLM 的专家路由设计中。
SkySense-VITA:面向多模态遥感影像的通用上下文分割
SkySense-VITA: Towards Universal In-context Segmentation of Multi-modal Remote Sensing Imagery
论文提出的提示与预测解耦策略(VITA-Former 负责融合多模态提示,VITA-Decoder 负责预测)以及语义粒度退火(SGA)的由粗到细课程,可直接迁移到其他需要同时支持视觉提示、文本提示与融合提示的通用分割框架中。
SeD-UD:面向多模态意图识别的、影响驱动且分层解耦的信息瓶颈
SeD-UD: An Influence-Driven and Hierarchically-Decoupled Information Bottleneck for Multimodal Intent Recognition
论文提出的影响驱动自适应瓶颈(IDAB)模块可根据样本级冗余/噪声因子动态调整瓶颈维度,这一思路可直接迁移到视觉-语言模型的多模态特征融合环节,用于按样本抑制视觉与文本模态中的冗余信息。
场景重建作为3D检测的建图先验
Scene Reconstruction as Mapping Priors for 3D Detection
利用自动构建的密集建图先验来增强3D检测,为处理远距离或恶劣天气下的传感器稀疏与噪声问题提供了可扩展的解决方案,其建图先验构建流程和MPA3D融合框架可被其他自动驾驶感知任务借鉴。
面向基于视觉人机交互的深度与运动融合实时多模态指尖接触检测
Real-Time Multimodal Fingertip Contact Detection via Depth and Motion Fusion for Vision-Based Human-Computer Interaction
用专用 RGB-D 数据微调现成深度估计模型,把毫米级深度误差压到 3.8 mm,从而区分悬停与真实接触;这套「小规模专用数据 + 深度模型微调」的流程可直接迁移到其他需要亚厘米精度的手部/人体交互感知任务。
RaGS:释放 3D 高斯泼溅,融合 4D 雷达与单目线索进行 3D 目标检测
RaGS: Unleashing 3D Gaussian Splatting from 4D Radar and Monocular Cue for 3D Object Detection
将场景建模为连续高斯场,用视锥初始化与多模态迭代聚合动态分配资源到前景区域,再渲染为层级 BEV 特征;这种以高斯为中间表示、按需聚焦稀疏信息区域的做法,可迁移到其他多传感器 3D 检测与稀疏场景感知任务。
基于 RGB-事件的行人属性识别:一个基准数据集与一个非对称 RWKV 融合框架
RGB-Event based Pedestrian Attribute Recognition: A Benchmark Dataset and An Asymmetric RWKV Fusion Framework
提供了首个大规模 RGB-Event 配对的行人属性识别数据集与基准,并给出基于 RWKV 的非对称融合基线,可直接用于研究事件相机与 RGB 的跨模态融合、低光照与运动模糊场景下的视觉识别。
REL-SF4PASS:基于REL深度表示与球面融合的全景语义分割
REL-SF4PASS: Panoramic Semantic Segmentation with REL Depth Representation and Spherical Fusion
提出基于柱面坐标的REL深度表示和球面动态多模态融合(SMMF),为全景语义分割提供更有效的几何表征和融合策略,可迁移到其他全景感知任务。
RE-VLM:事件增强的视觉语言模型用于场景理解
RE-VLM: Event-Augmented Vision-Language Model for Scene Understanding
将事件相机作为补充模态引入视觉语言模型,通过双流编码器和渐进式训练对齐异构特征,为低光照、高动态范围等挑战性场景下的视觉语言理解提供了可复用的多模态融合方案。
R4Det:面向高性能3D目标检测的4D雷达-相机融合
R4Det: 4D Radar-Camera Fusion for High-Performance 3D Object Detection
面向自动驾驶的多模态3D检测,其全景深度融合(绝对/相对深度互增强)与不依赖自车位姿的可变形门控时序融合模块,可直接迁移到LiDAR-相机或纯视觉BEV时序检测中,解决位姿缺失下的时序退化问题。
R$^2$TUA:基于重建残差的针对文本-图像行人重识别的目标与非目标攻击
R$^2$TUA: Reconstruction-residual Based Targeted and Untargeted Attack Against Text-Image Person Re-Identification
提出基于重建残差的对抗扰动生成方法,利用Transformer渐进多模态融合和软截断函数,可迁移至其他跨模态检索系统的对抗攻击与鲁棒性评估。
QueryMe:查询驱动的多模态证据开放词表3D物体功能可供性定位
QueryMe: Query-Driven Open-Vocabulary 3D Object Affordances Grounding from Multimodal Evidence
将2D人-物交互图像投影到3D空间,并用多模态查询结构在点云中检索几何一致的功能部件,为开放词表3D功能可供性定位提供了可复用的跨模态对齐与查询机制。
探测并桥接视觉基础模型中可供性推理的几何-交互线索
Probing and Bridging Geometry-Interaction Cues for Affordance Reasoning in Vision Foundation Models
对做视觉研究的人,这篇论文提供了一种无需训练、零样本的可供性估计思路:把 DINO 的部件级几何原型与 Flux 的动词条件空间注意力图直接融合,可作为视觉基础模型内部表征探测与多模态先验组合的通用手段。
物理对抗服装通过非重叠 RGB-T 图案规避可见光-热红外检测器
Physical Adversarial Clothing Evades Visible-Thermal Detectors via Non-Overlapping RGB-T Pattern
对做 RGB-T 多模态检测的人,这篇给出了一个必须正视的物理世界威胁模型:用可见光与热红外材料不重叠的服装图案即可在 0°–360° 视角下稳定欺骗不同融合架构的检测器,并提示融合阶段集成可提升跨架构迁移性,可作为评估多模态融合鲁棒性的红队基线。
PanDA:面向自动驾驶多模态3D全景分割的无监督域自适应
PanDA: Unsupervised Domain Adaptation for Multimodal 3D Panoptic Segmentation in Autonomous Driving
针对多模态3D全景分割的无监督域自适应框架,其非对称多模态增强和双专家伪标签精炼模块可迁移到其他多模态感知任务(如3D检测、语义分割)的域自适应中,提升传感器退化下的鲁棒性。
PV-Ground:文本引导的点-体素交互用于3D视觉定位
PV-Ground: Text-Guided Point-Voxel Interaction for 3D Visual Grounding
用体素骨干网络保留高分辨率空间细节,并用文本引导的关键点采样聚合特征,为3D视觉定位提供了一种避免激进下采样的点-体素交互范式。
OmniVGGT:全模态驱动的视觉几何基础 Transformer
OmniVGGT: Omni-Modality Driven Visual Geometry Grounded Transformer
GeoAdapter 通过零初始化卷积将深度与相机内外参注入空间基础模型,配合随机模态子集训练,使模型在推理时可灵活利用任意数量辅助几何输入而不牺牲速度,为多视图三维重建与相机姿态估计提供了可复用的多模态融合范式。
OmniFM:面向异构医学影像的模态鲁棒与任务无关联邦学习
OmniFM: Toward Modality-Robust and Task-Agnostic Federated Learning for Heterogeneous Medical Imaging
把低频频谱分量当作跨模态共享的解剖结构先验,这一思路可直接迁移到多模态医学图像的分割/超分骨干上,用频域提示替代模态专属适配器;其前缀-后缀频谱提示与嵌入级交叉注意力融合也可作为跨模态对齐的轻量插件。
NEC-Diff:面向极端黑暗运动场景的噪声鲁棒事件-RAW 互补扩散模型
NEC-Diff: Noise-Robust Event-RAW Complementary Diffusion for Seeing Motion in Extreme Darkness
对做低光照成像与事件相机融合的研究者,这篇提供了两个可复用思路:用 RAW 的线性光响应与事件亮度变化构造物理约束做双模态去噪,以及基于去噪结果动态估计两模态 SNR 来引导自适应特征融合并注入扩散采样过程。
用于语义场景补全的多模态频率分解网络
Multi-modal Frequency Decomposition Network for Semantic Scene Completion
针对 RGB-D 语义场景补全中的多模态对齐问题,提出频率分解与全局到局部的对齐范式,可复用于其他多模态融合任务(如深度补全、3D 检测)的特征对齐与细节保留。
面向高分辨率大脑动态的时空神经帧建模
Modeling Spatiotemporal Neural Frames for High Resolution Brain Dynamic
将EEG作为条件信号、以零空间中间帧重建处理不规则采样,把fMRI重建为皮层顶点级连续序列;这套「条件生成+不规则采样补全」思路可迁移到其他跨模态医学时序重建与视觉解码任务。
MoVie:利用人体运动拓宽动作检测的视野
MoVie: Broaden Your Views with Human Motion for Action Detection
将人体骨架序列作为运动先验,通过可学习运动字典分解和正交变换正则化,引导RGB视频特征学习,为视频动作检测提供了一种融合异构模态的通用思路。
状态混合:面向多模态生成的路由式 token 级动态
Mixture of States: Routing Token-Level Dynamics for Multimodal Generation
把跨模态融合从固定结构改为 token 级、随去噪时间步变化的可学习稀疏路由,可直接迁移到任何多模态扩散骨干(如 DiT)中替换固定的 cross-attention 融合层,在几乎不增加参数与算力的情况下提升文生图/编辑质量。
MedTVT-R1:赋能医学推理与诊断的多模态大语言模型
MedTVT-R1: A Multimodal LLM Empowering Medical Reasoning and Diagnosis
模态感知层对异构模态(影像、生理信号、文本)做自适应加权融合,配合 GRPO 强化微调与 Jaccard 奖励,可直接迁移到需要多源视觉证据联合推理的医学 VQA 与报告生成任务。
MarkushGrapher-2:端到端多模态化学结构识别
MarkushGrapher-2: End-to-end Multimodal Recognition of Chemical Structures
该工作将文本、图像与版面信息通过视觉-文本-版面编码器与光学化学结构识别视觉编码器联合编码,并采用两阶段训练策略融合,为文档图像中的多模态结构识别提供了可复用的编码与融合范式。
MagicFuse:用于视觉与语义增强的单图像融合
MagicFuse: Single Image Fusion for Visual and Semantic Reinforcement
利用扩散模型从单张退化可见光图像生成跨光谱场景表示,通过融合两个扩散分支的噪声实现知识级融合,为单模态输入下的多模态融合提供了新思路。
MUST:面向缺失模态扩散增强生存预测的模态特异表征感知 Transformer
MUST: Modality-Specific Representation-Aware Transformer for Diffusion-Enhanced Survival Prediction with Missing Modality
把每个模态的表征显式拆成模态特异分量与跨模态上下文分量,再用条件潜变量扩散模型补全缺失模态的特异信息——这套「分解+条件生成补全」思路可直接迁移到视觉多模态任务(如RGB-深度、图像-文本)中的模态缺失场景。
MMSD3.0:面向真实世界多模态讽刺检测的多图像基准
MMSD3.0: A Multi-Image Benchmark for Real-World Multimodal Sarcasm Detection
该论文提出的多图像基准和跨图像推理模型(CIRM)为视觉-语言任务中多图像语义关系建模提供了可复用的评测平台和融合思路,尤其适用于需要跨图像推理的讽刺检测、情感分析等场景。
MM-OVSeg:面向遥感开放词表分割的多模态光学-SAR 融合
MM-OVSeg: Multimodal Optical-SAR Fusion for Open-Vocabulary Segmentation in Remote Sensing
对做开放词表分割的人,这篇给出了把 SAR 结构先验注入 VLM 文本对齐分割头的双编码器融合方案,可作为恶劣天气/光学缺失场景下扩展 OV 分割输入模态的参考;其跨模态表征统一流程也可迁移到其他传感器组合。
MDCS-MoAME:面向癌症生存预测的多方向复合扫描与注意力及 Mamba 混合专家
MDCS-MoAME: Multi-directional Composite Scanning with Mixture of Attention and Mamba Experts for Cancer Survival Prediction
把 Mamba 的多方向复合扫描策略用在千兆像素全切片图像上,为处理超长序列的病理图像提供了一种可复用的序列化与建模思路;注意力与 Mamba 混合专家动态路由也可迁移到其他多模态视觉任务。
M4V:面向高效文本到视频生成的多模态 Mamba
M4V: Multimodal Mamba for Efficient Text-to-Video Generation
用双向词元重排加视觉寄存器把 Mamba 的线性复杂度序列建模接入扩散式文生视频主干,在 768x1280 分辨率下比注意力方案省 45% 浮点运算量,可作为高分辨率视频生成中替代全局注意力的可复用模块。
先对齐再融合:面向鲁棒3D检测的2D引导跨模态对齐
Look Before You Fuse: 2D-Guided Cross-Modal Alignment for Robust 3D Detection
用2D检测器可靠定位的物体-背景边界作为先验,在融合前预对齐激光雷达与相机特征,并显式增强边界处的深度突变;这套「先对齐再融合」的思路可直接迁移到任何存在投影误差的多传感器BEV融合流程中。
在多模态大语言模型中用事件流学习看穿极端光照
Learning to See through Illumination Extremes with Event Streaming in Multimodal Large Language Models
把事件流作为与 RGB 互补的模态接入 MLLM,并用 DINOv2 分支导出的可学习光照指示信号自适应调制融合权重,同时用潜空间对齐损失把退化特征拉回正常光照语义——这套「退化感知的模态门控 + 潜空间语义对齐」可直接迁移到低光、过曝、夜间等视觉任务的特征融合设计中。
面向多模态交互学习的信息论分解
Information-Theoretic Decomposition for Multimodal Interaction Learning
为视觉-语言等多模态模型提供逐样本自适应的交互分解思路:用变分分解把冗余、独特、协同信息显式拆开,再在微调阶段分别利用,可直接迁移到 VLM 的多模态融合模块或跨模态对齐训练中。
面向深度伪造定位的不一致性感知多模态薛定谔桥
Inconsistency-aware Multimodal Schrodinger Bridge for Deepfake Localization
把薛定谔桥当作无需显式加噪去噪的一致性度量与跨模态信息选择器,用一致性统计非对称分配桥步数,可迁移到任何需要抑制单侧噪声的多模态时序定位任务。
面向3D语义分割多模态训练的图文到点云特征反投影
Image-to-Point Cloud Feature Back-Projection for Multimodal Training of 3D Semantic Segmentation
把图像特征中心按估计深度反投影到点云特征空间,使图像信息在训练期注入点云分支、推理期可关闭,为纯激光雷达部署提供了一种可插拔的多模态训练增强手段。
IMU-HOI:通过接触感知惯性融合实现连贯人-物交互与运动捕捉的共生框架
IMU-HOI: A Symbiotic Framework for Coherent Human-Object Interaction and Motion Capture via Contact-Conscious Inertial Fusion
把稀疏 IMU 信号与手-物接触概率作为高层路由信号,融合运动学与惯性积分,可在遮挡严重、相机视野受限的场景下替代纯视觉动捕;其接触感知的三阶段融合管线与可插拔设计,可直接接入现有稀疏 IMU 动捕骨干,扩展到人-物联合运动估计。
恶劣天气条件下基于激光雷达-4D雷达融合的混合鲁棒协同感知
Hybrid Robust Collaborative Perception with LiDAR-4D Radar Fusion under Adverse Weather Conditions
在车路/车车协同感知场景下,用4D毫米波雷达补足退化激光雷达的稀疏点云,其双向跨模态门控(BCMG)做特征可靠性互校验、自适应特征增强(AFE)修复被抑制区域,可直接迁移到多智能体多模态融合的鲁棒检测框架中。
HBridge:面向统一多模态理解与生成的异构专家 H 形桥接
HBridge: H-Shape Bridging of Heterogeneous Experts for Unified Multimodal Understanding and Generation
HBridge 的非对称 H 形桥接结构只在中层共享注意力、浅层与深层解耦,为视觉研究者提供了一种可复用的异构专家融合范式:在保留 LLM 与扩散模型各自预训练先验的同时降低跨模态注意力的共享开销,可直接迁移到需要同时做视觉理解与图像生成的统一模型中。
H2-Surv:面向生存预测的层级双曲多模态表征学习
H2-Surv: Hierarchical Hyperbolic Multimodal Representation Learning for Survival Prediction
把全切片图像的多级结构(patch→WSI→患者)与基因组层级一起嵌入共享双曲空间,并用序数对比损失保持风险分数的连续性;做病理图像层级建模或需要保留样本间细粒度序关系时,这套双曲层级编码加序数对比目标可直接迁移。
GraspALL:面向任意低光照条件下机器人衣物抓取的自适应光照变化结构补偿
GraspALL: Adaptive Structural Compensation from Illumination Variation for Robotic Garment Grasping in Any Low-Light Conditions
针对低光照下衣物抓取任务,提出将连续光照变化编码为定量参考,以指导RGB与非RGB模态的自适应融合,生成光照一致的抓取表征;该光照自适应融合机制可迁移至其他多模态感知任务。
概念驱动的任意场景注视目标估计
Gaze Target Estimation Anywhere with Concepts
将自然语言或点提示作为条件输入,端到端地同时完成主体定位与注视目标热图预测,为视觉-语言模型在细粒度空间理解任务上提供了可复用的提示式范式。
Gau-Occ:几何补全高斯用于多模态三维占用预测
Gau-Occ: Geometry-Completed Gaussians for Multi-Modal 3D Occupancy Prediction
将场景表示为语义三维高斯锚框,用锚框引导的二维采样与跨模态对齐替代稠密体素融合,为视觉-激光雷达融合的占用预测提供了轻量化的几何引导方案。
GSV2X:面向鲁棒路侧感知的几何感知不确定性建模与正交融合
GSV2X: Geometry-Aware Uncertainty Modeling and Orthogonal Fusion for Robust Roadside Perception
把2D图像特征建模为3D高斯分布并注入相机几何引导的可学习扰动,为BEV融合提供了一种显式吸收标定误差的手段;正交约束注意力用于解耦冗余模态特征,可迁移到任何相机-激光雷达融合的BEV感知框架。
FusionRegister:每一对红外与可见光图像融合都值得配准
FusionRegister: Every Infrared and Visible Image Fusion Deserves Registration
提出一种由视觉先验引导的跨模态配准方法,可直接作用于融合结果,避免预配准步骤,为红外与可见光图像融合提供高效鲁棒的配准方案。
以你的方式融合:通过直接偏好优化使图像融合对齐异构需求
Fusion in Your Way: Aligning Image Fusion with Heterogeneous Demands via Direct Preference Optimization
把 DPO 引入潜扩散模型的采样过程,用偏好信号直接控制生成结果的属性,为视觉中「同一输入需输出多种风格/质量取向结果」的可控生成提供了一套可复用的偏好对齐训练范式。
从事件到清晰:事件引导的扩散框架用于去雾
From Events to Clarity: The Event-Guided Diffusion Framework for Dehazing
将事件相机的高动态范围(HDR)和微秒级延迟特性引入去雾任务,通过事件引导模块将稀疏事件特征映射到扩散潜变量空间,为生成过程提供精确的结构条件,缓解语义漂移。该思路可推广到其他低层视觉任务(如低光照增强、运动去模糊)中,利用事件相机弥补RGB帧动态范围不足的问题。
从3D姿态到文本:基于生物力学的视觉-语言教练
From 3D Pose to Prose: Biomechanics-Grounded Vision-Language Coaching
将3D骨骼运动学与视觉外观通过交叉注意力融合,用于生成可解释的健身指导文本;其运动学约束建模和参数高效训练策略可迁移到其他需要细粒度动作理解的视觉-语言任务。
FlashCap:基于闪烁 LED 与事件视觉的毫秒级精确人体运动捕捉
FlashCap: Millisecond-Accurate Human Motion Capture via Flashing LEDs and Event-Based Vision
用闪烁 LED 作为事件相机的高频时间戳信号源,配合 RGB 学习残差姿态,为高时序分辨率人体姿态估计提供了一套低成本、可复用的数据采集与建模范式。
动态室内环境中的少样本增量3D目标检测
Few-Shot Incremental 3D Object Detection in Dynamic Indoor Environments
把VLM的2D语义特征与类无关3D框结合成类别原型,并用多模态门控打分,为少样本增量3D检测提供了一条不依赖大量新类标注的路线;其原型印记与特征重加权机制可迁移到其他开放世界/增量检测设定。
EventDrive:面向视觉-语言驾驶智能的事件相机
EventDrive: Event Cameras for Vision-Language Driving Intelligence
将事件相机异步流与RGB帧通过多尺度事件金字塔和模态路由混合专家融合,为视觉语言模型提供高时序精度和运动感知,可借鉴到需要低延迟、高动态范围的多模态推理任务中。
基于事件的视觉形变测量
Event-based Visual Deformation Measurement
将事件流的时间稠密运动线索与帧的空间稠密估计融合,并用分片线性化(AIS)与邻域贪心优化抑制稀疏噪声事件带来的运动歧义和长期跟踪误差累积,为高动态场景下的稠密对应与形变跟踪提供了可复用范式。
通过基于解混的丰度融合学习增强未配准高光谱图像超分辨率
Enhancing Unregistered Hyperspectral Image Super-Resolution via Unmixing-based Abundance Fusion Learning
针对未配准参考图像的超分辨率问题,提出基于解混的丰度融合框架,利用可变形聚合和交叉注意力实现空间-光谱信息解耦与融合,可迁移到其他多模态图像融合任务。
基于球谐函数的高效混合 SE(3) 等变视觉运动流策略用于机器人操作
Efficient Hybrid SE(3)-Equivariant Visuomotor Flow Policy via Spherical Harmonics for Robot Manipulation
把球谐函数表示作为 SO(3) 等变的载体,并设计不变特征增强模块融合点云与图像,可直接迁移到任何需要旋转等变的多模态视觉编码器;同时证明整流流可与等变扩散策略稳定结合,为少步采样策略学习提供可复用方案。
EMR-Diff:边缘感知多模态残差扩散模型用于高光谱图像超分辨率
EMR-Diff: Edge-aware Multimodal Residual Diffusion Model for Hyperspectral Image Super-resolution
提出边缘感知噪声策略与多模态残差机制,可迁移到其他多模态融合超分任务中,利用高分辨率辅助图像的边缘信息引导扩散模型优先重建高频细节。
EMMA:从多模态数据中提取多个物理参数
EMMA: Extracting Multiple physical parameters from Multimodal Data
把视频轨迹当作动力学观测,用 Liquid Time-Constant 网络在连续时间模型里联合估计显式物理参数与隐变量,为视觉研究者提供了一条不依赖分割掩码或可微渲染、直接从原始视频反演系统物理量的可复用路径。
DyFCLT:面向多模态小目标检测的动态频率解耦跨模态学习 Transformer
DyFCLT: Dynamic Frequency-Decoupled Cross-Modal Learning Transformer for Multimodal Tiny Object Detection
把频域子带解耦后做跨模态注意力,为 RGBT 小目标检测提供了一条可复用的思路:按频率成分而非空间位置对齐模态,可直接迁移到其他多模态密集预测任务。
面向鲁棒目标检测的分布对齐多模态融合
Distribution-Aligned Multimodal Fusion for Robust Object Detection
冻结预训练检测器、只训练轻量融合模块,并把融合特征对齐到检测器最优工作的预训练分布,这一思路可直接迁移到任何多模态或跨域检测的适配场景,避免针对训练退化过拟合。
DarkShake-DVS:低光照与相机抖动条件下基于事件相机的人体动作识别
DarkShake-DVS: Event-based Human Action Recognition under Low-light and Shaking Camera Conditions
用事件相机+IMU的非线性warping做运动补偿,把6-DoF抖动下的低光事件流重建为稳定输入,再接四阶段混合时空特征提取;对做事件视觉、视频动作识别和抖动视频稳定化的研究者提供了可复用的补偿前端与配套基准。
DSERT-RoLL:面向多样驾驶条件的鲁棒多模态感知——立体事件-RGB-热成像相机、4D雷达与双LiDAR
DSERT-RoLL: Robust Multi-Modal Perception for Diverse Driving Conditions with Stereo Event-RGB-Thermal Cameras, 4D Radar, and Dual-LiDAR
为事件相机、4D雷达、热成像等新传感器提供了带2D/3D框与轨迹ID的多模态驾驶数据与统一基准,可直接用于研究跨传感器家族的融合策略与恶劣天气下的3D检测鲁棒性。
DPL:解耦原型学习以增强视觉-语言 Transformer 对缺失模态的鲁棒性
DPL: Decoupled Prototype Learning for Enhancing Robustness of Vision-Language Transformers to Missing Modalities
对做多模态视觉-语言模型的人,DPL 提供了一种可插拔的预测头设计:按当前缺失模态情形选择类原型并分解为图像/文本分量,可直接替换现有提示词框架后的全连接检测头,用于提升图像缺失时的推理鲁棒性。
DPGF-Net:用于联合评估 AI 生成图像感知质量与语义一致性的双先验引导融合网络
DPGF-Net: Dual-Prior Guided Fusion Network for Joint Assessment of Perceptual Quality and Semantic Consistency in AI-Generated Images
面向 AI 生成图像的联合质量与语义一致性评估,用图像侧先验把渲染失真与内容解耦、再与提示词模板交互,可作为 T2I 生成模型评测与数据筛选的自动化打分器。
DIMOS:解耦实例级运动目标分割
DIMOS: Disentangling Instance-level Moving Object Segmentation
双解耦特征提取把图像与事件模态各自拆成外观流和运动流,再配合多粒度跨模态对齐做融合;这套「先解耦再对齐」的流程可直接迁移到其他事件-图像融合任务(如事件辅助的检测、深度估计),也为小目标运动分割提供了可复用的特征增密思路。
DETACH:面向外视角视频与环境传感器的分解式时空对齐与分阶段学习
DETACH : Decomposed Spatio-Temporal Alignment for Exocentric Video and Ambient Sensors with Staged Learning
论文把外视角视频分解为空间与时序分量,并用在线聚类把环境传感器的隐式通道激活转成显式空间原型,从而建立跨模态空间视觉定位;这套「分解+原型视觉定位+加权对比」的流程可直接迁移到视频-音频、视频-IMU 等跨模态时序对齐任务,尤其是需要抑制假负样本的细粒度时序对齐场景。
CrossVL:面向跨视角视觉语言检测的复杂度感知特征路由与配对课程学习
CrossVL: Complexity-Aware Feature Routing and Paired Curriculum for Cross-View Vision-Language Detection
CPA 用多模态统计量估计场景复杂度并据此把视觉特征路由到不同通路,这一「按复杂度动态选择融合路径」的思路可直接迁移到任意 VLM 检测器的视觉-语言融合层;PCL 用同步地空图像对的语义一致性做早期稳定监督、再逐步转向随机采样,为跨域/跨视角微调提供了一种可复用的课程调度策略。
跨模态引导的视觉合成用于数据高效的多模态抑郁识别
Cross-Modal Guided Visual Synthesis for Data-Efficient Multimodal Depression Recognition
对视觉研究者而言,可复用其「用音频/文本条件生成视觉特征来扩充训练分布,并以识别器性能闭环反馈驱动生成」的思路,用于视觉样本稀缺时的多模态表征增强。
对话式图像分割:以可扩展监督对抽象概念进行视觉定位
Conversational Image Segmentation: Grounding Abstract Concepts with Scalable Supervision
把「意图/可供性/物理常识」这类抽象概念作为分割查询,并用无需人工标注的数据引擎自动生成 prompt-mask 对,为语言引导分割提供了可扩展的监督构造范式,可直接迁移到开放词表与指令式分割的数据扩增。
CineSRD:利用视觉、声学与语言线索的开放世界视觉媒体说话人日志
CineSRD: Leveraging Visual, Acoustic, and Linguistic Cues for Open-World Visual Media Speaker Diarization
将说话人日志任务扩展到影视剧等开放世界视觉媒体场景,提出视觉锚框聚类注册说话人、结合音频语言模型检测说话人轮次的统一多模态框架,为长视频中跨模态异步条件下的说话人标注提供了可复用的技术路线。
CineBrain:用于脑条件视频生成的大规模多模态视听脑数据集
CineBrain: A Large-Scale Multi-Modal Audiovisual Brain Dataset for Brain-Conditioned Video Generation
该工作提出的多模态脑信号融合编码器与神经潜变量解码器,为视觉解码提供了可复用的跨模态对齐与融合范式;其同步fMRI-EEG数据集可用于研究听觉皮层激活如何增强视觉解码,对脑机接口和视觉神经科学交叉方向有直接参考价值。
CaReFlow:用于多模态融合的循环自适应整流流
CaReFlow: Cyclic Adaptive Rectified Flow for Multimodal Fusion
把整流流当作跨模态分布映射器,用一对多映射让源模态每个样本看到目标模态全局分布,配合自适应松弛对齐与循环整流流约束,可作为视觉-文本/视觉-音频特征对齐的通用预对齐模块,替代扩散或对抗式一对一对齐。
CCF:面向域泛化多模态3D目标检测的互补协同融合
CCF: Complementary Collaborative Fusion for Domain Generalized Multi-Modal 3D Object Detection
针对双分支 proposal-level 多模态 3D 检测器,提出查询解耦损失、LiDAR 引导深度先验和互补跨模态掩码,可复用于提升视觉-激光雷达融合模型在恶劣域下的鲁棒性。
基于bulk RNA-seq引导的多模态空间转录组学检测人类癌症异常区域
Bulk RNA-seq Guided Multi-modal Detection of Anomalous Regions in Human Cancer via Spatial Transcriptomics
将病理图像与空间转录组数据通过最优传输对齐基因模块,为多模态医学图像分析提供了一种跨模态对齐与融合的通用思路,可借鉴到其他需要整合组学与影像的任务中。
将人工评测引入红外与可见光图像融合
Bridging Human Evaluation to Infrared and Visible Image Fusion
将人类主观偏好通过强化学习(GRPO)引入红外与可见光图像融合,提供了一套可复用的「人类反馈数据集构建+奖励模型训练+策略优化」范式,可迁移到其他低层视觉任务(如超分、去噪)以对齐人类感知。
BiGMINT:生物学引导的分层多模态集成用于药物发现中多化合物活性建模
BiGMINT: Biologically-guided Hierarchical Multimodal Integration for Modeling Multiple Compound Activities in Drug Discovery
论文提出的化学蛋白质组学引导的表型聚合与任务感知的跨模态融合机制,可迁移到视觉-组学联合建模场景,为利用生物先验指导图像特征聚合提供可复用范式。
超越对偶性:利用共享与私有特征的混合框架用于RGB-事件目标检测
Beyond Duality: A Hybrid Framework of Leveraging Shared and Private Features for RGB-Event Object Detection
提出基于频域一致性的共享与私有特征解耦方法,可复用于其他多模态融合检测任务;TriAdapt 编码器与 TriInject 解码器的设计思路对处理模态间互补信息有参考价值。
BALM:面向不均衡缺失率下均衡多模态学习的模型无关框架
BALM: A Model-Agnostic Framework for Balanced Multimodal Learning under Imbalanced Missing Rates
针对各模态缺失概率不一致(IMR)的场景,BALM 的特征校准模块用全局上下文重建单模态特征、梯度再平衡模块从分布与空间两个角度调节梯度幅值与方向,可作为即插即用模块嵌入多模态骨干,直接用于视觉-音频-文本多模态识别中缺失鲁棒性的提升。
Any4D:统一前馈度量尺度 4D 重建
Any4D: Unified Feed-Forward Metric 4D Reconstruction
把 4D 场景拆成局部相机坐标下的自中心因子(深度、内参)与全局世界坐标下的他中心因子(外参、场景流)的模块化表示,使单一前馈 Transformer 能统一处理 N 帧稠密运动与几何预测,并可直接接入 RGB-D、IMU、Radar Doppler 等额外传感器;这套表示与多模态接口可复用到动态场景重建、新视角合成与机器人感知。
从系统生物学视角出发,以基因组、蛋白质组与病理成像数据的层级融合推进癌症预后
Advancing Cancer Prognosis with Hierarchical Fusion of Genomic, Proteomic and Pathology Imaging Data from a Systems Biology Perspective
对做计算病理与多模态融合的研究者,这篇论文提供了把基因组、蛋白质组与病理图像按生物层级逐级融合的架构范式:用图感知交叉注意力建模基因-蛋白调控、用超图卷积建模蛋白-图像块的高阶关联,可作为多组学+全切片图像融合的可复用设计。
面向多模态失败检测的自适应置信度正则化
Adaptive Confidence Regularization for Multimodal Failure Detection
为多模态视觉模型(如RGB+深度+光流的自动驾驶感知)提供了一种可复用的失败检测训练策略:用自适应置信度损失约束多模态预测置信度不低于单模态分支,并用特征交换合成失败样本作为难负例,可直接嵌入现有多模态融合框架提升拒识能力。
通过多模态贝叶斯分布学习实现点云分析自适应
Adapting Point Cloud Analysis via Multimodal Bayesian Distribution Learning
把每个类别的文本先验与流式视觉特征都建模为高斯分布,用贝叶斯模型平均按后验证据自动加权融合,替代 cache 式 TTA 的启发式 logit 融合,可直接迁移到点云分类/分割等任务在分布偏移下的在线自适应。
AT-VLA:面向视觉-语言-动作模型增强反馈反应的自适应触觉注入
AT-VLA: Adaptive Tactile Injection for Enhanced Feedback Reaction in Vision-Language-Action Models
提出自适应触觉注入机制,动态决定触觉信号注入的时机和位置,避免微调时破坏预训练VLA的表征;双流架构将慢速视觉-语言流与快速触觉控制流解耦,实现0.04秒实时闭环,为视觉-语言-动作模型在接触丰富操作中融合触觉反馈提供了可复用方案。
ARES:统一非对称 RGB-事件双目以实现概率化场景流估计
ARES: Unifying Asymmetric RGB-Event Stereo for Probabilistic Scene Flow Estimation
用事件相机与 RGB 构成非对称双目,并通过跨视角约束下的多模态上下文注意力构建统一对应空间,再以时序视差后验融合做概率化场景流推断,为高速动态场景的三维运动估计提供了可复用的融合与概率建模思路。