Tag · 53 篇
注意力机制
ViT$^3$：释放视觉中的测试时训练
ViT$^3$: Unlocking Test-Time Training in Vision
把注意力重写为测试时的在线学习问题，用键值对在线构建紧凑内模型，为视觉主干提供线性复杂度且可并行化的替代方案；做视觉骨干替换或长序列/高分辨率视觉建模时，可直接把 ViT^3 当作 Mamba、线性注意力的对照基线。
VesMamba：基于结构感知与尺度感知滤波的 Mamba 三维肺血管 CT 图像分割
VesMamba: 3D Pulmonary Vessel Segmentation from CT images via Mamba with Structural Perception and Scale-aware Filtering
将 Mamba 状态空间模型与动态空间注意力卷积结合，用于捕捉管状/树状结构的长程拓扑依赖，可迁移到视网膜血管、气道、神经纤维等细长结构分割任务；其尺度感知滤波与掩码约束解码器思路也可用于多尺度密集预测。
V-Attack：针对解耦值特征实现对LVLM的可控对抗攻击
V-Attack: Targeting Disentangled Value Features for Controllable Adversarial Attacks on LVLMs
针对LVLM视觉编码器中自注意力value特征进行对抗操控，绕过纠缠的patch特征实现局部语义编辑，为研究多模态模型的语义可控性与安全漏洞提供了可复用的攻击面。
面向超低保留率视频大语言模型的统一时空词元压缩
Unified Spatiotemporal Token Compression for Video-LLMs at Ultra-Low Retention
提出一种无需重训练、即插即用的视频大语言模型视觉词元压缩方法，通过全局时空分配和文本感知合并，在极低保留率下保持性能，可直接用于降低视频理解任务的推理成本。
UCAN：用于轻量级超分辨率中扩展感受野的统一卷积注意力网络
UCAN: Unified Convolutional Attention Network for Expansive Receptive Fields in Lightweight Super-Resolution
UCAN 通过窗口注意力与 Hedgehog Attention 结合，并引入蒸馏式大核模块，在极低计算量下扩大有效感受野，为轻量级超分辨率及其他图像复原任务提供了可复用的高效架构设计。
TimeViper：一种用于高效长视频理解的混合 Mamba-Transformer 视觉语言模型
TimeViper: A Hybrid Mamba-Transformer Vision-Language Model for Efficient Long Video Understanding
TimeViper 的混合 Mamba-Transformer 骨干与 TransV 词元压缩模块，为视觉语言模型处理长视频提供了一种降低推理成本且保持多模态理解能力的可复用架构思路。
面向模糊到视频分解的时间特化事件-图像对齐
Time-Specialized Event-Image Alignment for Blur-to-Video Decomposition
把事件相机的微秒级时序信息用相对时间编码注意力与时间面动态形变显式对齐到任意查询时刻，为从单张模糊图恢复高帧率视频提供了可复用的时序对齐范式，也可迁移到事件引导的插帧与去模糊任务。
脉冲 Transformer 中的时序交互与多延迟混合器
Temporal Interaction in Spiking Transformers with Multi-Delay Mixer
MD-Mixer 作为即插即用模块替换脉冲 Transformer 中的空间自注意力，为事件相机等神经形态视觉输入提供显式时序混合，可直接用于事件驱动视觉骨干网络的改造。
语义导数流：用于可控实例交互的图引导扩散
Semantic Derivative Flow: Graph-Guided Diffusion for Controllable Instance Interactions
将实例间的交互关系建模为有向无环图，并通过导数注意力机制强制谓词表征由主语派生、宾语由谓词派生，为可控生成中「多实例交互」这一难点提供了可复用的结构化条件注入思路。
选择即非线性：通过联合博弈决策视角桥接注意力与激活，实现可解释、判别性的视觉表征
Selection-as-Nonlinearity: Bridging Attention and Activation via a Joint Game-Decision Lens for Interpretable, Discriminative Visual Representations
提出将注意力视为成本约束下的选择操作，为理解视觉Transformer中注意力与FFN的互补性提供新视角，并据此设计CSaN模块，可即插即用地增强Swin、ViT、Hiera等骨干网络，在视觉基准上以更小规模媲美两倍大的同族模型。
超越视野：外推式域自适应全景分割
Seeing Beyond: Extrapolative Domain Adaptive Panoramic Segmentation
针对透视训练、全景测试的跨视角几何偏移，提出带角度间隔的注意力调制与高阶图匹配适配器，可复用于任何需要视角不变语义表征的跨域分割或开放集识别任务。
可扩展的物体关系编码：提升大语言模型中的三维空间推理能力
Scalable Object Relation Encoding for Better 3D Spatial Reasoning in Large Language Models
QuatRoPE 用四元数式整体向量编码 3D 坐标，并通过注意力层点积隐式算出成对空间关系，使输入长度随物体数线性增长；做 3D 场景-语言对齐或把场景图喂给 LLM 的工作可直接复用这一位置编码与 IGRE 门控扩展思路。
面向视觉 Transformer 的显著性驱动词元合并
Saliency-Driven Token Merging for Vision Transformers
提供了一种免训练的词元合并策略：利用输入图块的潜在视觉显著性统计量判断哪些词元与全局梯度方向不一致，从而安全合并，可直接插入任意 ViT 主干以降低浮点运算量，无需微调。
STCast：面向全球与区域天气预报的自适应边界对齐
STCast: Adaptive Boundary Alignment for Global and Regional Weather Forecasting
Spatial-Aligned Attention 用注意力对齐全局与区域空间分布并据此自适应细化区域边界，这一「注意力导出对齐模式→动态边界」的思路可迁移到遥感/气象等大场景中的区域裁剪与感兴趣区域自适应划分；TMoE 按离散高斯分布路由不同月份变量的做法，也为时序视觉模型中的条件专家路由提供参考。
SRGCD：稳定性驱动的区域生长三维变化检测框架
SRGCD: Stability-Driven Region Growth Framework for 3D Change Detection
把 3D 变化检测从逐点二分类重构为从高置信种子出发的区域生长，用稳定性引导的受控注意力逐层传播，可直接迁移到点云分割中边界模糊与孤立噪声点的处理。
修复跨域少样本目标检测中的目标域散光问题
Remedying Target-Domain Astigmatism for Cross-Domain Few-Shot Object Detection
针对跨域少样本目标检测中注意力分散的问题，提出中心-外周注意力精炼框架，利用类特定原型和文本语义对齐来重塑注意力，可复用于其他域适应检测任务。
调控而非约束：全色锐化中复杂光谱重建的自适应引导
Regulating Rather than Constraining: Adaptive Guidance for Complex Spectral Reconstruction in Pansharpening
提出一种与架构无关的正则化引导机制，通过MixShuffle数据增强和分层注意力加权损失，可迁移到其他需要处理复杂光谱混合的低层视觉任务中。
RegionFuse：面向红外与可见光图像融合的区域自适应像素分布学习
RegionFuse: Region-Adaptive Pixel Distribution Learning for Infrared and Visible Image Fusion
将混合专家（MoE）与区域级注意力结合，按局部像素分布动态生成融合权重，这一「区域自适应权重生成」思路可直接迁移到多曝光融合、多模态特征融合、动态卷积等需要空间自适应加权的视觉任务。
基于推理驱动的图像级监督异常检测与定位
Reasoning-Driven Anomaly Detection and Localization with Image-Level Supervision
利用MLLM自回归推理过程中的注意力响应生成像素级异常图，仅需图像级监督，为视觉异常检测提供无需密集标注的新范式。
ReAttnCLIP：通过重新定义CLIP中的注意力实现免训练开放词表遥感图像分割
ReAttnCLIP: Training-Free Open-Vocabulary Remote Sensing Image Segmentation via Re-defined Attention in CLIP
通过重新定义CLIP的注意力矩阵（替换patch-to-patch子矩阵、优先中间层注意力、禁用[CLS]自注意力）来提升开放词表分割的patch级表征质量，该思路可迁移到其他基于CLIP的密集预测任务。
RMAE-ProGRess：推进非结构化环境中的语义分割
RMAE-ProGRess: Advancing Semantic Segmentation in Unstructured Environments
提出ProGRess解码器，通过渐进式跳跃融合（PLF）实现非连续特征图的自顶向下多尺度融合，并引入轻量级通道注意力门控（LCAR）和瓶颈特征融合（BFF），为语义分割解码器设计提供了可复用的模块化思路。
RHCNet：面向鲁棒水下目标检测的残差引导分层校准网络
RHCNet: Residual-Guided Hierarchical Calibration Network for Robust Underwater Object Detection
针对水下图像前景-背景模糊、结构细节丢失的问题，在 ResNet-50 骨干中嵌入卷积+注意力的残差引导特征增强模块强化边缘纹理，并用自底向上语义增强与自顶向下细粒度补偿的双路径金字塔配合 K-means 引导的特征校准实现跨尺度语义一致，这套「增强+校准」组合可直接迁移到其他低对比度、模糊场景的检测器改进中。
RAVEN：通过新视角合成擦除不可见水印
RAVEN: Erasing Invisible Watermarks via Novel View Synthesis
把水印去除重新表述为潜空间中的视角变换问题，并借助视角引导的对应注意力保持结构一致；这为研究水印鲁棒性提供了新的攻击范式，也提示视觉研究者：语义保持的几何变换是评估生成内容溯源方案时必须纳入的威胁模型。
R3-PCQA：面向无参考三维点云质量评估的射线重投影强化方法
R3-PCQA: Ray-Reprojection-Reinforcement for No-Reference 3D Point Cloud Quality Assessment
将点云质量评估建模为多视角射线重投影加强化学习子云选择，可复用于任何需要从 2D 投影聚合 3D 结构感知的任务（如点云分割、配准中的视图聚合），其全局视图注意力聚合机制也可迁移到多视图特征融合。
QueryMe：查询驱动的多模态证据开放词表3D物体功能可供性定位
QueryMe: Query-Driven Open-Vocabulary 3D Object Affordances Grounding from Multimodal Evidence
将2D人-物交互图像投影到3D空间，并用多模态查询结构在点云中检索几何一致的功能部件，为开放词表3D功能可供性定位提供了可复用的跨模态对齐与查询机制。
基于自适应目标感知注意力的精确物体与效果移除
Precise Object and Effect Removal with Adaptive Target-Aware Attention
自适应目标感知注意力把前景移除与背景重建解耦，并用学到的注意力图做推理期融合；做扩散图像修复/擦除时可直接借鉴这种解耦式注意力设计与注意力引导融合策略，避免背景被改写。
PositionIC：面向图像定制的统一位置与身份一致性
PositionIC: Unified Position and Identity Consistency for Image Customization
用 NeRF 式体素权重调节的可见性感知注意力，把实例级空间嵌入与语义身份特征解耦，可直接迁移到任何需要精确布局控制的多主体生成/编辑框架中；BMPDS 自动数据合成管线也为位置标注数据稀缺问题提供了可复用方案。
偏振状态追踪用于去反射与色彩一致重建
Polarization State Tracing for Reflection Removal and Color-Consistent Reconstruction
将偏振光在玻璃内的多路径传播与波长选择性吸收显式建模为成像模型（PSTM），为透过有色介质的去反射与色彩一致性复原提供了可复用的物理先验；其通道环形注意力（CRA）用于建模偏振通道间的角度依赖，可迁移到其他多通道/多视角偏振特征融合任务，恢复的偏振信息还能直接服务 Shape-from-Polarization 等下游几何任务。
视差对齐一切：面向分布式多视图图像压缩的全视差注意力机制
Parallax to Align Them All: An OmniParallax Attention Mechanism for Distributed Multi-View Image Compression
OPAM 提供了一种显式建模任意两路信息源相关性的通用注意力机制，可复用于多视图立体、光场处理等需要跨视图对齐的任务；其分布式解码框架也为多相机系统下的低带宽传输提供了新思路。
PHASE-Net：面向高效远程光电容积脉搏波测量的物理锚定谐波注意力系统
PHASE-Net: Physics-Grounded Harmonic Attention System for Efficient Remote Photoplethysmography Measurement
把血流动力学的 Navier-Stokes 方程离散解推导为因果卷积，为 rPPG 的时序建模提供物理依据；其零 FLOPs 的轴向通道交换与逐帧自适应空间掩码，可直接迁移到其他需要跨区域交互与噪声抑制的面部视频时序任务。
PA-Attack：以原型与注意力引导针对 LVLM 视觉编码器的灰盒攻击
PA-Attack: Guiding Gray-Box Attacks on LVLM Vision Encoders with Prototypes and Attention
把视觉编码器当作跨模型稳定的灰盒攻击支点，并用 token 级注意力分数定位关键视觉 token 施加扰动，这一思路可直接迁移到对 CLIP/ViT 类视觉骨干的对抗鲁棒性评测与防御设计上。
Molmo2：面向视频理解与视觉定位的视觉语言模型开放权重与数据
Molmo2: Open Weights and Data for Vision-Language Models with Video Understanding and Grounding
Molmo2 提供了不依赖闭源 VLM 生成的视频/多图数据集与训练配方（packing 与 message-tree 编码、视觉 token 双向注意力、token 加权策略），并给出点驱动视觉定位与像素级跟踪的评测设定，可直接用于构建或评测具备指点和跟踪能力的视频语言模型。
MSPT：通过并行化多尺度注意力实现高效大规模物理建模
MSPT: Efficient Large-Scale Physical Modeling via Parallelized Multi-Scale Attention
把「图像块内局部点注意力 + 粗粒度图像块级全局注意力」的双尺度注意力，配合球树做不规则几何的空间划分，可直接迁移到百万级点云或高斯球的场景表示与神经场建模中，在单卡上显著降低显存占用。
LumiX：结构化且连贯的文本到本征图生成
LumiX: Structured and Coherent Text-to-Intrinsic Generation
Query-Broadcast Attention 让所有本征图共享同一组 query，从而在联合扩散采样中保持跨图结构一致；Tensor LoRA 用张量化低秩适配建模跨图关系，可作为多输出联合生成任务中参数高效训练与一致性的通用手段。
超越窗口：全局-局部对齐CLIP用于免训练开放词表语义分割
Looking Beyond the Window: Global-Local Aligned CLIP for Training-free Open-Vocabulary Semantic Segmentation
提出全局-局部对齐的CLIP框架，通过跨窗口键值令牌交换和代理锚点解决滑窗推理中的语义不一致问题，可直接用于提升免训练开放词表分割方法的高分辨率处理能力。
LoL：比更长更长，将视频生成扩展至小时级
LoL: Longer than Longer, Scaling Video Generation to Hour
针对自回归长视频生成中注意力汇聚帧导致的场景重置问题，提出多头 RoPE 抖动这一免训练手段，打破头间注意力同质化；做流式/无限长视频生成或复用 RoPE 的位置编码方案时可直接借鉴。
协同展开的联合光谱图像重建与语义分割
Joint Spectral Image Reconstruction and Semantic Segmentation with Cooperative Unfolding
将重建与分割两个任务耦合进同一个深度展开框架，并用跨聚合超令牌注意力在两者之间传递表征，为「复原任务与高层任务联合优化」提供了可复用的展开式设计思路。
无需见过组合式 4D 场景即可推断
Inferring Compositional 4D Scenes without Ever Seeing One
提出时空注意力解耦训练与注意力混合推理机制，使模型无需 4D 组合训练数据即可从单目视频重建多物体交互的 4D 场景，为动态场景重建提供可复用的训练策略。
通过残差学习从查询样本中搜寻正常性以实现通用异常检测
Hunting Normality from Query Sample via Residual Learning for Generalist Anomaly Detection
将残差特征从「直接建模分布」改为「引导学习实例级正常性代理」，并用支持集特征动态聚合查询相关的正常性代理，这一思路可迁移到少样本缺陷检测、开放类别异常定位以及任何需要类不变表征的定位任务。
GeoMotion：以潜空间4D几何重新审视运动分割
GeoMotion: Rethinking Motion Segmentation via Latent 4D Geometry
用4D场景几何重建（如π³）提供的可靠相机位姿与时空先验，替代显式对应估计，通过注意力在潜特征上隐式解耦物体运动与相机运动，为动态场景运动分割提供免迭代、免预处理的前馈范式。
GazeShift：面向VR的无监督注视估计与数据集
GazeShift: Unsupervised Gaze Estimation and Dataset for VR
提出一种面向近眼红外图像的无监督注视表征学习框架，通过注意力引导实现注视-外观解耦，并支持轻量少样本校准，为VR场景下的实时注视估计提供了可复用的方法思路。
GFRRN：弥合单图反射去除中的鸿沟
GFRRN: Explore the Gaps in Single Image Reflection Removal
用可学习 Mona 层做 PEFT 对齐预训练特征与复原模型特征，并用标签生成器统一合成/真实反射标签，可直接迁移到去雨、去雾等存在合成-真实域差的低层复原任务。
为任意开源多模态大语言模型增强部件级点定位能力
Enhancing Part-Level Point Grounding for Any Open-Source MLLMs
提出一种冻结主干、仅靠中间层注意力合成文本条件查询并解码为点热图的插件式方案，可让任意开源 MLLM 获得部件级点定位能力，为细粒度机器人操作等任务提供可直接复用的适配模块。
无尽世界：实时 3D 感知长视频生成
Endless World: Real-Time 3D-Aware Long Video Generation
条件自回归训练策略把新生成内容与已有帧对齐，配合全局 3D-aware 注意力注入几何约束，可在单卡实时生成无限长且 3D 一致的视频；这套「对齐已有帧 + 3D 引导」的思路可直接迁移到流式视频生成与长序列扩散采样。
Ego：视觉语言模型的嵌入引导个性化
Ego: Embedding-Guided Personalization of Vision-Language Models
利用 VLM 内部注意力提取代表目标概念的视觉 token 作为概念记忆，无需额外训练即可在测试图像中召回并描述个性化概念，为视觉语言模型的免训练个性化与概念绑定提供可复用思路。
基于球面几何增强的全景图像边缘聚焦超分辨率
Edge-Focused Super-Resolution for Omnidirectional Images with Spherical Geometric Augmentation
针对全景图像超分辨率中的边缘退化问题，提出边缘聚焦模块与球面旋转-平移数据增强策略，可复用于其他畸变图像复原任务。
EReCu：面向无监督伪装检测的伪标签进化融合与多线索学习精炼
EReCu: Pseudo-label Evolution Fusion and Refinement with Multi-Cue Learning for Unsupervised Camouflage Detection
针对无监督伪装目标检测中伪标签噪声和边界模糊问题，提出多线索原生感知与伪标签进化融合框架，其教师-学生伪标签精炼和频谱张量注意力融合策略可迁移到其他弱监督/无监督分割任务。
EMR-Diff：边缘感知多模态残差扩散模型用于高光谱图像超分辨率
EMR-Diff: Edge-aware Multimodal Residual Diffusion Model for Hyperspectral Image Super-resolution
提出边缘感知噪声策略与多模态残差机制，可迁移到其他多模态融合超分任务中，利用高分辨率辅助图像的边缘信息引导扩散模型优先重建高频细节。
面向可变形医学图像配准中组合爆炸问题的动态流网络
Dynamic Stream Network for Combinatorial Explosion Problem in Deformable Medical Image Registration
把「双输入特征组合爆炸」显式建模为问题，并用动态感受野（AdSB）与动态权重注意力（DySA）筛选相关特征组合，这一思路可迁移到光流、立体匹配、多帧融合等任何双/多输入密集预测任务的特征交互设计上。
思深则视弱：理解与缓解多模态大语言模型推理过程中的感知损伤
Deeper Thought, Weaker Aim: Understanding and Mitigating Perceptual Impairment during Reasoning in Multimodal Large Language Models
提出免训练的视觉区域引导注意力（VRGA）框架，通过熵-聚焦准则选择视觉头并重加权注意力，缓解多模态大模型在推理时的注意力分散问题，可直接用于提升VQA和视觉定位任务的性能。
CaliTex：面向视图一致 3D 纹理生成的几何校准注意力
CaliTex: Geometry-Calibrated Attention for View-Coherent 3D Texture Generation
把注意力路由与语义部件对齐、几何条件绑定，是解决多视图扩散生成中跨视图不一致的可复用思路；做 3D 纹理/多视图生成的人可直接借鉴 Part-Aligned 与 Condition-Routed 两个注意力改造模块。
打破虚假相关：用于AU检测的不确定性驱动因果Transformer
Breaking Spurious Correlations: Uncertainty-Driven Causal Transformers for AU Detection
将Transformer注意力权重参数化为高斯分布以建模不确定性，并引入因果干预模块抑制混淆偏差，可复用于其他存在标签噪声和类别不平衡的细粒度人脸分析任务。
面向无线信道预测的几何代数引导 3DGS 框架
A Geometric Algebra-Informed 3DGS Framework for Wireless Channel Prediction
把 3DGS 从纯渲染表示扩展为可承载物理场（电磁）的显式场景表示，并用几何代数注意力建模射线与物体的交互；对视觉研究者而言，这是一条把可微高斯表示用于非渲染物理量预测（如信号强度场、遮挡衰减）的可复用思路。