Tag · 4 篇
神经坍缩
分布 鲁棒性与安全2自监督与表征学习1视觉语言模型1
01 02 03 04
你的差异性定义了你:利用类别多样性进行互补学习
Your Dissimilarities Define You: Complementary Learning Exploiting Class Diversities
把「非目标类」整体建模为一个 opposite-class 并对其激活分布做显式约束,可作为分类头/损失层的即插即用正则项,配合神经坍缩分析改善特征几何,适用于开放集、少样本与域泛化的视觉分类骨干训练。
POUR:基于神经坍缩的可证明最优表征遗忘方法
POUR: A Provably Optimal Method for Unlearning Representation via Neural Collapse
把机器遗忘从分类器层推进到表征层,用 Neural Collapse 下 simplex ETF 的正交投影给出闭式最优遗忘算子,并提供蒸馏式特征级变体;做视觉模型隐私删除或概念擦除时可直接复用该投影算子与 RUS 指标来评估表征是否真正被遗忘。
测试时自适应中的神经坍缩
Neural Collapse in Test-Time Adaptation
把神经坍缩推广到样本级(NC3+),指出域偏移下性能下降源于样本级特征-分类器错位,并据此设计混合目标(几何邻近+预测置信度)来重对齐特征与分类器权重,可直接嵌入现有 TTA 流程(如 Tent)提升 OOD 鲁棒性。
面向视觉语言模型长尾泛化的聚类感知神经坍缩提示词微调
Cluster-Aware Neural Collapse Prompt Tuning for Long-Tailed Generalization of Vision-Language Models
把神经坍缩的 ETF 几何约束引入提示词微调,用聚类级局部约束替代全局约束,为在类不平衡数据上微调 VLM 时保住尾类判别力提供了一个可复用的损失设计思路。