Tag · 2 篇
正交正则化
分布 自监督与表征学习1视觉语言模型1
01 02
理解并强制任务算术中的权重解耦
Understanding and Enforcing Weight Disentanglement in Task Arithmetic
对做视觉模型微调与多任务合并的人，OrthoReg 提供了一个可直接插入微调过程的权重更新正交正则项，用来缓解任务向量相加时的相互干扰，可用于多任务模型合并、个性化编辑与持续微调场景。
SoC：面向测试时提示词调优的语义正交校准
SoC: Semantic Orthogonal Calibration for Test-Time Prompt Tuning
对做 VLM 测试时自适应的人，这篇给出了一个可直接替换全正交约束的 Huber 型正则项：在文本提示词嵌入的原型分离上做平滑约束，既保留语义近邻又避免过度自信，可插到任何 TPT 流程里改善置信度校准。