Tag · 10 篇
长尾分布
驯服长尾:通过自适应扰动重平衡对抗训练
Taming the Long Tail: Rebalancing Adversarial Training via Adaptive Perturbation
把对抗扰动当作可调节的训练分布重加权手段,为长尾视觉任务(如长尾分类、检测)提供了一种即插即用的对抗训练改造思路,可直接嵌入现有对抗训练流程。
长尾互联网照片重建
Long-Tail Internet Photo Reconstruction
从已重建的互联网地标中采样稀疏子集来模拟长尾场景的相机分布,为稀疏视角三维重建提供了一种可扩展的监督构造方式;该思路可直接用于微调现有三维基础模型,提升极端稀疏与对称重复场景下的重建鲁棒性。
微调损害了基础模型在长尾个性化联邦学习中的平衡性
Fine-Tuning Impairs the Balancedness of Foundation Models in Long-tailed Personalized Federated Learning
论文揭示了对基础模型进行微调会破坏其固有的类别平衡性,并提出用零样本预测净化本地梯度、以残差学习实现无偏个性化,这为视觉基础模型在非独立同分布长尾数据上的联邦微调提供了可复用的梯度修正与残差适配思路。
极端非独立同分布与全局类别不平衡下的联邦主动学习
Federated Active Learning Under Extreme Non-IID and Global Class Imbalance
在极端非独立同分布与全局类别不平衡下,用轻量预测差异推断全局不平衡度与本地-全局偏差,从而自适应选择全局或本地查询模型;这套「查询模型选择 + 原型引导伪标签 + 两阶段不确定性-多样性采样」可直接迁移到视觉主动学习的标注预算分配中。
FedCART:通过分类器精修应对联邦对抗训练中的长尾分布
FedCART: Tackling Long-Tailed Distributions in Federated Adversarial Training via Classifier Refinement
把模型解耦为共享特征提取器与双分类器,并用梯度类原型在服务端合成平衡虚拟特征重训辅助分类器,这一套「原型校准 + 虚拟特征重平衡」思路可直接迁移到视觉中的长尾分类与对抗鲁棒性联合优化场景。
从有偏教师中蒸馏平衡知识
Distilling Balanced Knowledge from a Biased Teacher
把蒸馏目标拆成跨组损失与组内损失,并分别做组级校准与重加权,可直接用于任何长尾视觉分类任务中从有偏教师迁移平衡知识,也可迁移到检测/分割的长尾蒸馏。
Den-TP:面向轨迹预测的密度均衡数据筛选与评测框架
Den-TP: A Density-Balanced Data Curation and Evaluation Framework for Trajectory Prediction
把「场景密度」当作与数据集无关的交互复杂度代理,用梯度子模选择做密度均衡的数据子集筛选,并配套密度条件评测协议;做自动驾驶轨迹预测或任何长尾感知任务的人可以直接借用这套数据筛选与分桶评测思路,暴露被平均误差掩盖的高密度失效模式。
概念感知批采样改进语言-图像预训练
Concept-Aware Batch Sampling Improves Language-Image Pretraining
CABS 把「批采样」当作可在线定制的数据筛选手段:按目标概念分布动态组批(多样性最大化或频次最大化),可直接嵌入 CLIP 类对比学习训练循环,用于缓解长尾概念偏置,且无需额外模型过滤器。
CMR-RD:面向可解释心脏磁共振诊断的长尾自适应视觉语言模型
CMR-RD: Long-Tailed Adaptive VLM for Explainable CMR Diagnosis
把在线多阶段强化学习与自适应采样(GPPO)用于视觉语言模型的后训练,让模型主动探索稀有类别,这套长尾偏置缓解思路可直接迁移到其他医学或长尾视觉-语言诊断任务。
AdaPrior:面向长尾持续学习的贝叶斯启发式自适应先验校正
AdaPrior: Bayesian-Inspired Adaptive Prior Correction for Long-Tailed Continual Learning
把长尾类增量学习重新表述为动态先验失配问题,用指数滑动平均在线估计模型诱导先验,并同时用于训练期去偏(AdaPrior Loss)与推理期轻量 logit 调整;做增量学习或长尾分类的视觉工作可直接复用这套无需额外阶段、无需样本回放的先验校正机制。