Tag · 1 篇
A Faster Path to Continual Learning
对做视觉持续学习或任何需要反复微调的场景，C-Flat Turbo 把 C-Flat 每步三次额外梯度计算压到更少，可直接替换优化器降低训练开销；其「平坦性梯度随任务趋于稳定」的观察也可用于设计其他正则化训练策略的调度。