Tag · 1 篇
GR-Gauge: Cost-efficient Training Configuration By Gauging the Gradient Redundancy
提出以梯度冗余度作为轻量级信号来指导超参数搜索和试验终止,可替代传统基于验证集精度的昂贵评估,为视觉模型训练节省大量计算开销。