Tag · 34 篇
数据集构建
VINS-120K:基于大规模数据集的超高清图像编辑
VINS-120K: Ultra High-Resolution Image Editing with A Large-Scale Dataset
针对超高清图像编辑中高频纹理细节难以建模的问题,提出高频感知的后适配策略,可将预训练的非高清编辑模型扩展到超高清域,为高分辨率生成与编辑提供可复用的微调思路。
Unsafe2Safe:兼顾下游效用的可控图像匿名化
Unsafe2Safe: Controllable Image Anonymization for Downstream Utility
用视觉语言模型生成成对的私有/公开描述并让大语言模型产出结构化编辑指令,再以双提示词驱动扩散编辑器只重写敏感区域,这套「检测—指令—局部编辑」流程可直接迁移到数据清洗、人脸/文本脱敏和可控局部重绘任务。
TIGeR:时间、图像与地理位置检索的统一框架
TIGER: A Unified Framework for Time, Images and Geo-location Retrieval
TIGeR 用同一套表征同时完成地理定位、拍摄时间预测与「同地异时」图像检索,其核心思路是在外观剧烈变化下保持地点身份不变——这对做跨视角/跨季节地点识别、以及需要把时间作为检索条件的视觉检索系统,提供了一个可复用的多模态查询接口与训练范式。
SymphoMotion:联合控制相机运动与物体动态的连贯视频生成
SymphoMotion: Joint Control of Camera Motion and Object Dynamics for Coherent Video Generation
把相机位姿与物体级 3D 轨迹作为解耦条件注入视频扩散模型,为可控视频生成提供了「相机运动 vs 物体运动」分离建模的可复用范式,并配套 RealCOD-25K 真实配对数据可用于训练与评测。
面向气候模拟的时空金字塔流匹配
Spatiotemporal Pyramid Flow Matching for Climate Emulation
将级联视频生成中的时空金字塔思想引入流匹配:把生成轨迹按空间分辨率与时间尺度分层,每层绑定一个时间尺度并直接采样,从而在任意时间层级并行生成。这一「分辨率-时间尺度耦合」的采样设计可迁移到长视频生成与多尺度时空预测任务,用于降低长时序 rollout 的计算成本。
空间检索增强的自动驾驶
Spatial Retrieval Augmented Autonomous Driving
把离线检索的地理图像作为额外输入模态,与车载传感器特征对齐融合,为遮挡、暗光、雨雾等感知退化场景提供先验;做自动驾驶感知/规划的研究者可以把它当作即插即用的额外输入分支,或直接使用其扩展的 nuScenes 基准来评测跨模态融合。
SpaceTimePilot:跨空间与时间的动态场景生成式渲染
SpaceTimePilot: Generative Rendering of Dynamic Scenes Across Space and Time
通过动画时间嵌入与时间扭曲训练方案,在视频扩散模型中显式解耦相机运动与场景运动,为可控新视角视频生成提供可复用的条件控制手段;CamxTime 数据集可用于训练自由时空轨迹渲染。
SelfHVD:自监督手持视频去模糊
SelfHVD: Self-Supervised Handheld Video Deblurring
提出利用视频中的清晰线索作为自监督信号,并设计自增强视频去模糊与自约束空间一致性维护方法,可复用于其他缺乏配对数据的底层视觉任务。
说茄子!通过自然语言编辑生成细节保持的人像集合
Say Cheese! Detail-Preserving Portrait Collection Generation via Natural Language Edits
提出基于自然语言指令的人像集合生成任务,并设计自适应特征融合与 ConsistencyNet 来在复杂编辑下保持身份与细节一致性,为可控人像编辑提供了可复用的数据构建流程与一致性保持模块。
RxnCaption:将反应图解析重构为视觉提示引导的图像描述
RxnCaption: Reformulating Reaction Diagram Parsing as Visual Prompt Guided Captioning
将坐标预测式解析重构为图像描述任务,并利用视觉提示(边界框与索引)引导 LVLM,为文档图像的结构化信息提取提供了可复用的范式。
基于自适应目标感知注意力的精确物体与效果移除
Precise Object and Effect Removal with Adaptive Target-Aware Attention
自适应目标感知注意力把前景移除与背景重建解耦,并用学到的注意力图做推理期融合;做扩散图像修复/擦除时可直接借鉴这种解耦式注意力设计与注意力引导融合策略,避免背景被改写。
OpenT2M:基于开源、大规模、高质量数据的无冗余运动生成
OpenT2M: No-frill Motion Generation with Open-source, Large-scale, High-quality Data
2D-PRQ 按人体生物学部位划分并捕捉时空依赖的运动分词器,可复用于人体动作表示与长时序运动合成;OpenT2M 的物理可行性校验与多粒度过滤流程,为构建高质量人体运动数据提供可借鉴的自动化管线。
OpenDance:基于大规模互联网数据的多模态可控 3D 舞蹈生成
OpenDance: Multimodal Controllable 3D Dance Generation with Large-scale Internet Data
提出统一的掩码建模框架,通过解耦自编码器与多模态联合预测 Transformer,实现音乐、文本、关键点、轨迹任意组合条件下的 3D 舞蹈生成,为多条件可控人体运动生成提供了可复用的架构与大规模数据集。
OmniVTG:面向开放世界视频时序定位的大规模数据集与训练范式
OmniVTG: A Large-Scale Dataset and Training Paradigm for Open-World Video Temporal Grounding
提出自校正思维链训练范式,让多模态大模型先预测再反思修正,可迁移到其他需要精确定位的视觉语言任务;同时发布大规模开放世界视频时序定位数据集,为后续研究提供基准。
Omni2Sound:迈向统一的视频-文本到音频生成
Omni2Sound: Towards Unified Video-Text-to-Audio Generation
提出三阶段多任务渐进训练调度,将视频到音频与文本到音频的跨任务竞争转化为联合优化,并缓解VT2A任务中的模态偏置;该调度策略可迁移到其他多模态条件扩散生成任务(如视频配音、音效生成)中平衡异构条件。
OMoBlur:面向真实世界局部运动去模糊的物体运动模糊数据集与基准
OMoBlur: An Object Motion Blur Dataset and Benchmark for Real-World Local Motion Deblurring
针对静态场景中空间异质的局部物体运动模糊,提供了通过可编程传感器控制模拟曝光光子积分过程的采集方案,并给出无需像素级精确掩码的物体运动感知去模糊网络(运动-外观提取块 + 光流引导门控预测 + 自适应门控融合),可直接用于研究局部运动去模糊与真实模糊分布对齐问题。
长尾互联网照片重建
Long-Tail Internet Photo Reconstruction
从已重建的互联网地标中采样稀疏子集来模拟长尾场景的相机分布,为稀疏视角三维重建提供了一种可扩展的监督构造方式;该思路可直接用于微调现有三维基础模型,提升极端稀疏与对称重复场景下的重建鲁棒性。
先定位再复核:基于区域定位推理提升AI生成图像检测
Locate-Then-Examine: Grounded Region Reasoning Improves Detection of AI-Generated Images
把VLM的取证判断显式绑定到局部区域证据上:先做可疑区域提议,再对裁剪块与全图联合重审,这种「定位-复核」两阶段范式可迁移到任何需要像素级依据的细粒度真伪/异常判别任务,如深伪检测、篡改定位。
IntrinsicWeather:本征空间中的可控天气编辑
IntrinsicWeather: Controllable Weather Editing in Intrinsic Space
把天气编辑从像素空间搬到本征空间(材质/几何/光照图),用本征图作为中间表示提升可控性;其本征图感知注意力与 CLIP 空间天气提示词插值可直接迁移到其他条件图像编辑与逆渲染任务。
InterRVOS:交互感知的指代视频目标分割
InterRVOS: Interaction-Aware Referring Video Object Segmentation
将交互关系显式建模引入指代视频目标分割,要求分别分割动作执行者与目标对象,并设计了交互感知特殊 token 与注意力掩码损失;对做视频理解、指代分割和多模态推理的研究者,提供了可复用的角色区分分割范式与配套数据集。
HiFi-Inpaint:面向高保真参考引导图像修复以生成细节保持的人-产品图像
HiFi-Inpaint: Towards High-Fidelity Reference-Based Inpainting for Generating Detail-Preserving Human-Product Images
面向参考图引导的图像修复,提出共享增强注意力(SEA)与基于高频图的细节感知损失(DAL),可直接迁移到需要像素级细节保真的参考驱动编辑/合成任务中。
基于陀螺仪的深度视频去模糊
Gyro-based Deep Video Deblurring
利用陀螺仪测量的旋转运动与估计的平移运动联合构建模糊核,并输入视频去模糊网络,为视频去模糊提供了新的传感器融合思路和可复用的模糊核构建方案。
组编辑:一次编辑多张图像
Group Editing: Edit Multiple Images in One Go
将图像组视为伪视频,利用预训练视频模型的时序一致性先验,并通过 VGGT 提取显式几何对应进行融合,为多图一致编辑提供了可复用的技术路线。
FFP-300K:扩展首帧传播以实现可泛化的视频编辑
FFP-300K: Scaling First-Frame Propagation for Generalizable Video Editing
提出无需运行时引导的首帧传播视频编辑框架,其 AST-RoPE 通过动态重映射位置编码解耦外观与运动参考,可迁移到任何以首帧为条件的视频生成/编辑模型;同时 300K 高质量视频对数据集为训练鲁棒时序先验提供了数据基础。
EmoStyle:情感驱动的图像风格化
EmoStyle: Emotion-Driven Image Stylization
把「情感」作为风格迁移的条件信号,并用向量量化把连续风格特征离散成情感相关码本条目,这个 emotion-aware style dictionary 可直接作为其他生成任务(如 T2I、编辑)的可插拔风格条件模块复用。
第一人称视角可见性感知的人体姿态估计
Egocentric Visibility-Aware Human Pose Estimation
针对第一人称视角下关键点不可见问题,提出显式建模可见性信息的方法,并构建带可见性标注的大规模数据集,为遮挡/不可见场景下的姿态估计提供可复用思路与评测基准。
EgoXtreme:极端条件下第一人称视角鲁棒物体姿态估计数据集
EgoXtreme: A Dataset for Robust Object Pose Estimation in Egocentric Views under Extreme Conditions
该数据集为第一人称视角下的 6D 物体姿态估计提供了极端条件(严重运动模糊、动态光照、烟雾遮挡)下的评测基准,可用于检验现有泛化姿态估计器的失效模式,并推动时序信息利用与鲁棒性方法的研究。
EffectErase:联合视频物体移除与插入实现高质量效应擦除
EffectErase: Joint Video Object Removal and Insertion for High-Quality Effect Erasing
把视频物体插入当作移除的逆辅助任务做互逆学习,并用任务感知区域引导把学习集中在形变、阴影、反射等效应区域,这一思路可直接迁移到视频修复、阴影/反射去除等需要定位并擦除视觉效应的编辑任务。
DMAligner:通过基于扩散模型的视图合成增强图像对齐
DMAligner: Enhancing Image Alignment via Diffusion Model Based View Synthesis
用扩散模型做面向对齐的新视图合成,替代传统光流 warping,能处理遮挡和光照变化;DMP 模块动态区分前景背景,思路可迁移到其他需要条件生成的视觉任务。
CodePercept:面向多模态大模型的代码接地视觉STEM感知
CodePercept: Code-Grounded Visual STEM Perception for MLLMs
将可执行代码作为视觉感知的监督信号,通过图像到代码的生成任务迫使模型进行精确的视觉理解,为评估和增强多模态大模型的细粒度感知能力提供了新范式。
BrickNet:图结构驱动的生成式积木装配
BrickNet: Graph-Backed Generative Brick Assembly
用图结构(连通性关系)替代直接回归 3D 位姿来参数化积木装配序列,这一「以关系为中心的结构表示」思路可迁移到需要满足物理约束的 3D 组合式生成与场景布局任务中,避免自回归长序列快速失效。
BOP-ASK:面向视觉语言模型的物体交互推理
BOP-ASK: Object-Interaction Reasoning for Vision-Language Models
利用 BOP 数据集的 6D 物体位姿自动派生抓取位姿、指代物体位姿、路径轨迹与相对空间/深度关系,为 VLM 的空间与交互推理提供可规模化、带精确几何真值的训练与评测信号;这套「从位姿标注反推问答」的流水线可直接迁移到其他需要细粒度 3D 监督的视觉-语言任务。
音频同步视频实例编辑与粒度感知掩码精修器
Audio-sync Video Instance Editing with Granularity-Aware Mask Refiner
把用户给出的粗掩码迭代精修为实例级精确区域,并引入音频代理提供细粒度时序控制,为视频编辑中的空间-时间可控性提供了可复用的掩码精修与音频条件注入思路。
面向文本到图像生成的智能体修图器
Agentic Retoucher for Text-To-Image Generation
将生成后校正建模为感知-推理-动作的智能体循环,为扩散模型输出提供可定位、可控制的局部修复方案,其感知智能体的上下文显著性学习与推理智能体的渐进偏好对齐可直接迁移到其他图像编辑与质量提升任务。