无数据预训练

通过无数据平坦性感知提示词预训练改进视觉语言模型测试时提示词调优中的校准

Improving Calibration in Test-Time Prompt Tuning for Vision-Language Models via Data-Free Flatness-Aware Prompt Pretraining

提出一种无数据预训练方法，在测试时提示词调优前将提示词初始化到损失景观的平坦区域，从而同时提升视觉语言模型的校准性和性能，且不增加测试时计算开销。