Tag · 6 篇
置信度校准
面向视觉语言模型提示词微调的校准
Towards Calibrating Prompt Tuning of Vision- Language Models
为 CLIP 提示词微调提供了一套即插即用的校准正则项:均值-方差间隔惩罚稳定类间 logit 间隔,文本矩匹配损失约束微调后文本嵌入的一二阶矩贴近冻结 CLIP 嵌入,可直接加到现有 prompt tuning 训练目标上降低 ECE。
重新审视多标签图像识别微调中的 BCE 损失
Rethinking BCE Loss for Multi-Label Image Recognition with Fine-Tuning
针对 CLIP 提示词微调做多标签识别时 BCE 监督导致的置信度失准问题,提出用类别协方差正则把预测的类别置信度协方差结构对齐到预训练文本嵌入的语义相关性上,可作为即插即用的正则项用于任何基于 CLIP 的多标签/多类别微调流程,改善校准而不损精度。
关联多模态大语言模型中的感知、置信度与准确率
Linking Perception, Confidence and Accuracy in MLLMs
对做多模态大模型视觉感知的人来说,这篇给出了一个可复用的思路:用原图-加噪图配对构造置信度奖励做强化学习,让模型在视觉不确定时给出校准的置信度;校准后的置信度还能直接驱动测试时扩展(自一致性/自反思/视觉自检的调度),是一种无需重训即可提升准确率的推理期手段。
HierUQ:面向退化图像分类的自适应粒度协调分层不确定性量化
HierUQ: Hierarchical Uncertainty Quantification with Adaptive Granularity Reconciliation for Degraded Image Classification
针对低质量/退化图像,用基于标签平滑与 proper scoring rule 的分层不确定性量化,配合置信度不足时回退到高层节点的路径调整机制,可作为视觉模型在分布偏移下做可靠预测与拒识的通用手段。
以扩展 Logit 归一化增强分布外检测
Enhancing Out-of-Distribution Detection with Extended Logit Normalization
ELogitNorm 是一个无超参的训练期正则目标,可直接替换交叉熵训练来提升任意 post-hoc OOD 打分函数(MSP、能量分数等)的效果,同时改善 ID 置信度校准;做视觉分类模型部署时可直接套用,无需改动推理流程。
面向多模态失败检测的自适应置信度正则化
Adaptive Confidence Regularization for Multimodal Failure Detection
为多模态视觉模型(如RGB+深度+光流的自动驾驶感知)提供了一种可复用的失败检测训练策略:用自适应置信度损失约束多模态预测置信度不低于单模态分支,并用特征交换合成失败样本作为难负例,可直接嵌入现有多模态融合框架提升拒识能力。