Tag · 6 篇
迁移学习
稳定含噪预训练模型的特征几何以提升下游任务鲁棒性
Stabilizing Feature Geometry in Noisy Pretrained Models for Robust Downstream Tasks
对做预训练-微调视觉模型的人,这篇给出一个可复用的诊断量 PDA 来量化噪声预训练模型的主特征子空间旋转,并用扰动一致性、方差-激活正则与特征一致性蒸馏把子空间拉回干净模型的方向,可直接用于清洗噪声数据后的模型修复或鲁棒微调。
面向眼底图像分类的训练后特征剪枝
Post-training Feature Pruning for Fundus Images Classification
提出一种训练后贪心特征剪枝(GFP)方法,可去除展平特征中的冗余维度,提升跨设备泛化性和可解释性,适用于任何视觉骨干网络的特征压缩。
GeoSANE:从模型而非数据中学习地理空间表征
GeoSANE: Learning Geospatial Representations from Models, Not Data
把「预训练一个模型」换成「从已有模型权重生成新模型权重」,为视觉研究者提供了一条不依赖海量数据、直接复用多个基础模型互补知识的迁移路径,尤其适合遥感等标注稀缺、模态多样的场景下快速产出可微调骨干。
EthoCLIP:本体增强的视频-语言预训练用于动物行为理解
EthoCLIP: Ontology-Enhanced Video-Language Pretraining for Animal Behavior Understanding
将结构化领域本体(NBO)作为归纳偏置注入视觉-语言对比学习,通过本体感知图模块建模行为层级关系,为数据稀缺的细粒度视频理解提供可复用的语义增强预训练范式。
EEGiT:让视觉 Transformer 理解脑电信号
EEGiT: Teaching Vision Transformers to Understand the EEG signal
把时序脑电信号重排成类图像 patch 并插值对齐空间拓扑,从而直接复用预训练 ViT 的视觉先验——这套「非图像模态转 patch 后套用 ViT」的流程可迁移到其他低数据模态(如传感器、生理信号)的表征学习与检索。
一次对齐即可解释:面向可扩展 B-cos 化的基础视觉 Transformer 特征对齐
Align Once to Explain: Feature Alignment for Scalable B-cosification of Foundational Vision Transformers
提出一种免标签的一次性特征对齐方法,将任意预训练视觉基础模型(监督、自监督、视觉语言)转换为内在可解释的 B-cos 变体,且转换后模型可直接作为骨干网络用于下游任务,为视觉模型可解释性提供高效、可扩展的解决方案。