Tag · 2 篇
测试时提示词调优
01 02
SoC:面向测试时提示词调优的语义正交校准
SoC: Semantic Orthogonal Calibration for Test-Time Prompt Tuning
对做 VLM 测试时自适应的人,这篇给出了一个可直接替换全正交约束的 Huber 型正则项:在文本提示词嵌入的原型分离上做平滑约束,既保留语义近邻又避免过度自信,可插到任何 TPT 流程里改善置信度校准。
通过无数据平坦性感知提示词预训练改进视觉语言模型测试时提示词调优中的校准
Improving Calibration in Test-Time Prompt Tuning for Vision-Language Models via Data-Free Flatness-Aware Prompt Pretraining
提出一种无数据预训练方法,在测试时提示词调优前将提示词初始化到损失景观的平坦区域,从而同时提升视觉语言模型的校准性和性能,且不增加测试时计算开销。