Tag · 4 篇
提示工程
W2W:基于语言模型与强化学习的轨迹预测
W2W: Language-Model-Based Trajectory Prediction with Reinforcement Learning
把行人轨迹与交互线索(同行/跟随/障碍)转成可解析文本提示,再用 T5-Small 两阶段训练(交叉熵监督微调 + 以 ADE 与越野惩罚为奖励的强化学习)做轨迹预测;对做视觉时序预测的人,这是一个可复用的「语言模型 + RL 奖励约束」范式,尤其适合把场景约束写进奖励函数而非损失函数。
超越标签的思考:基于推理增强LMM的无词表细粒度识别
Thinking Beyond Labels: Vocabulary-Free Fine-Grained Recognition using Reasoning-Augmented LMMs
利用推理增强的LMM自动生成并筛选细粒度类别名称,再实例化为轻量多模态分类器,为无词表细粒度识别提供了可复用的三阶段流程,并证明开源LMM在精心设计提示下可媲美闭源模型。
QuantiPhy:评估视觉语言模型物理推理能力的定量基准
QUANTIPHY: A Quantitative Benchmark Evaluating Physical Reasoning Abilities of Vision-Language Models
该基准把 VLM 的物理理解从定性 VQA 推进到对尺寸、速度、加速度的定量数值估计,并揭示模型依赖预训练世界知识而非忠实使用视觉输入;做视频理解或多模态推理的研究者可用它诊断模型是否真正从像素中推断运动学量,也可借鉴其标准化提示与评分协议来构建数值化评测。
跟随显著性:面向检索增强密集视频描述的有监督显著性
Follow the Saliency: Supervised Saliency for Retrieval-augmented Dense Video Captioning
把 DVC 真值直接转成二值标签训练帧级显著性/高光检测器,再用同一显著性分数同时驱动检索分段与解码器 Saliency Prompt,为视频-语言检索增强生成提供了一个无需额外标注的统一时序信号。