Tag · 4 篇
子空间投影
分布 自监督与表征学习2鲁棒性与安全2
01 02 03 04
魔鬼藏在梯度纠缠中:面向鲁棒广义类别发现的能量感知梯度协调器
The Devil Is in Gradient Entanglement: Energy-Aware Gradient Coordinator for Robust Generalized Category Discovery
把「梯度纠缠」作为可诊断的优化失效模式,并用参考模型锚定有监督梯度方向、用能量系数自适应缩放无监督梯度投影,这套梯度级插件可直接移植到任何半监督/开放词表表征学习流程中,无需改动网络结构。
差分隐私二维人体姿态估计
Differentially Private 2D Human Pose Estimation
将差分隐私训练引入2D人体姿态估计,通过梯度子空间投影和特征级隐私机制在形式化隐私约束下显著降低噪声方差,为视觉任务在敏感数据上的隐私保护部署提供了可复用的DP-SGD改进方案。
通过子空间感知的模型合并跨越领域
Bridging Domains through Subspace-Aware Model Merging
对视觉研究者而言,这是一种无需额外训练即可把多个领域微调模型(如不同成像域、不同风格数据上微调的 ViT)合并为单一模型的手段:通过 SVD 提取各任务矩阵的主奇异向量并构造共享正交基,再剪掉投影后的非对角分量来消除子空间冲突,可直接用于多域视觉模型的部署与跨域泛化提升。
偏见是子空间而非坐标:对视觉语言模型事后去偏的几何再思考
Bias Is a Subspace, Not a Coordinate: A Geometric Rethinking of Post-hoc Debiasing in Vision-Language Models
把「偏见分布在低维线性子空间而非个别坐标」这一几何视角,转化为可直接套用的后处理去偏算子:在嵌入空间做子空间投影并回填中性均值,可复用于CLIP类模型的零样本分类、图文检索与生成,无需重训练。