Tag · 7 篇
自注意力
TopoCL：面向医学影像的拓扑对比学习
TopoCL: Topological Contrastive Learning for Medical Imaging
将持续同调得到的拓扑特征（持久图）通过自注意力与交叉注意力编码，并与视觉表征用自适应MoE融合，为医学图像自监督预训练提供了一种可插拔的拓扑感知增强与表征融合方案。
自注意力驱动的张量表示用于高阶数据恢复
Self-Attention Driven Tensor Representation for High-Order Data Recovery
把自注意力引入低秩张量分解的因子空间，用动态全局映射替代 MLP/CNN 的固定局部映射，可直接迁移到多光谱图像、视频、彩色图像等张量形式数据的补全与去噪任务中。
基于联合潜扩散的单图反射分离
Reflection Separation from a Single Image via Joint Latent Diffusion
把预训练扩散模型的生成先验显式微调用于单图反射分离，并用跨层自注意力与分离式采样在扩散过程中解耦透射层与反射层；对做图像复原的人，这是一套可直接迁移到其他「多成分叠加图像分解」任务的扩散采样与潜变量优化框架。
随机分组胜出：重新审视视觉词元的分组策略
Random Wins All: Rethinking Grouping Strategies for Vision Tokens
用随机分组替代精心设计的词元分组策略来降低自注意力的二次复杂度，可直接替换 ViT 类骨干中的分组注意力模块，并在检测等下游任务上验证了迁移收益。
MARSS：基于模块化注意力与状态空间模型的雷达语义分割
MARSS: Radar Semantic Segmentation via Modular Attention and State Space Models
面向雷达距离-多普勒频率图这类各向异性、稀疏含噪输入，给出可复用的模块化设计：用轻量通道自注意力+深度可分离卷积编码噪声特征、用区域级注意力做多尺度融合、用状态空间模型结合轴向自注意力在解码端建模各向异性与时序一致性，可迁移到其他非相机模态的密集预测任务。
从前馈新视角合成中学习紧凑三维表示
Learning Compact 3D Representations from Feed-Forward Novel View Synthesis
用可学习 token 的自注意力模式同时决定高斯生成位置与特征提升，把「紧凑高斯」当作前馈重建与场景理解的共享表示，可直接借鉴到无位姿稀疏视图下的重建-理解一体化管线，降低显存并改善多视图特征聚合。
内容相似度驱动的卷积神经网络
Convolutional Neural Networks Driven by Content Similarity
提出一种基于内容相似度的卷积聚合机制，通过排序操作将特征相似度转化为相对位置信息，使卷积能像自注意力一样聚合信息，为改进CNN的表征能力提供了可复用的技术思路。