Tag · 1 篇
ROSE: Rotate Your Large Language Model to See
提出用旋转矩阵把视觉语义直接作用到 LLM 预训练参数上的参数空间注入方式,替代把视觉 token 拼进输入序列的做法;做视觉-语言对齐、想降低多模态上下文长度与推理成本的工作可以直接借鉴这一注入接口。