Tag · 1 篇
HiFICL: High-Fidelity In-Context Learning for Multimodal Tasks
把 ICL 中示例的影响精确分解为注意力输出与上下文值的动态混合,并用可学习的虚拟键值对加低秩分解来替代「shift vector」近似,这给视觉-语言模型提供了一种免示例、低开销的任务适配手段,可直接嵌入 LMM 的注意力层做端到端训练。