Tag · 27 篇
合成数据生成
场景文本识别的合成数据有何问题?一个具有多样模拟与自进化的强合成引擎
What's Wrong with Synthetic Data for Scene Text Recognition? A Strong Synthetic Engine with Diverse Simulations and Self-Evolution
UnionST 数据引擎通过增强语料、字体和布局的多样性来缩小合成与真实数据的域差距,其自进化学习框架仅需 9% 的真实标签即可达到竞争性性能,为文本识别及其他视觉任务的数据合成与半监督标注提供了可复用的思路。
什么构成了用于零样本立体匹配的优质合成训练数据?
What Makes Good Synthetic Training Data for Zero-Shot Stereo Matching?
对做双目立体匹配或任何需要合成训练数据的视觉任务,这篇论文给出了程序化生成器的参数消融方法论:逐参数扫描并测量零样本基准性能,可直接迁移到光流、深度估计等任务的数据集设计上。
面向物体问题的视觉定位
Visual Grounding for Object Questions
把视觉定位从「找可见目标」扩展到「为开放式物体问题找视觉证据」,并给出可自动生成训练/评测数据的流程;做指代分割或 VQA 的研究者可借此设定检验模型在非直接可见概念上的定位能力,也可复用其轻量定位模型与合成基准。
缺失的 GAP:从求解方形拼图到处理真实世界考古碎片
The Missing GAP: From Solving Square Jigsaw Puzzles to Handling Real World Archaeological Fragments
GAP 提供了由真实考古碎片分布驱动的、形状不受限且严重侵蚀的合成拼图数据集,可用于评测形状不规则碎片的装配算法;PuzzleFlow 用 ViT 加 Flow-Matching 建模碎片间的连续匹配关系,为处理非方形、带侵蚀的碎片装配提供了可复用的建模范式。
面向检测、分割与视觉定位的可扩展精确学习的合成物体组合
Synthetic Object Compositions for Scalable and Accurate Learning in Detection, Segmentation, and Grounding
用 3D 几何布局与相机配置增强把高质量物体片段合成为带精确掩码、框和指代表达的训练图像,可直接替代或补充 LVIS/COCO 等真实标注数据,尤其适合低数据量与细粒度属性判别场景。
Socratic-Geo:通过多智能体交互的合成数据生成与跨模态几何推理
Socratic-Geo: Synthetic Data Generation and Cross-Modal Geometric Reasoning via Multi-Agent Interaction
对做视觉语言模型几何推理的人,这篇提供了用多智能体闭环把「图像-文本对」合成与模型学习需求耦合起来的范式:Teacher 用参数化 Python 脚本加可解性/视觉有效性反思保证数据纯度,Solver 的失败路径反过来指导定向增广,Generator 把「图像-代码-指令」三元组蒸馏成图像生成能力,可直接迁移到其他数据稀缺的推理任务。
以高质量合成数据集扩展指令式视频编辑
Scaling Instruction-Based Video Editing with a High-Quality Synthetic Dataset
用「图像编辑器 + 上下文视频生成器 + 智能体过滤」的流水线批量合成百万级指令式视频编辑数据,并用蒸馏模型加时序增强器压低生成成本;做视频编辑或可控生成的人可以直接复用这套数据构造与课程学习训练范式。
SAGE:用强化学习训练智能任意跨度智能体进行长视频推理
SAGE: Training Smart Any-Horizon Agents for Long Video Reasoning with Reinforcement Learning
把长视频推理建模为「按需决定看多少帧、看几轮」的多轮智能体决策,并用 RL 后训练教会模型自适应选择时间跨度;对做视频问答/长视频理解的人,这套 any-horizon 调度 + 合成数据管线可直接迁移到自己的视频 LLM 上以降低帧数开销。
面向隐私敏感身份识别的强化引导合成数据生成
Reinforcement-Guided Synthetic Data Generation for Privacy-Sensitive Identity Recognition
把通用域生成先验通过冷启动适配+多目标奖励(语义一致性/覆盖多样性/表情丰富度)迁移到隐私受限的身份识别域,并用动态样本筛选提升下游分类;这套「奖励引导生成+效用筛选」流程可直接复用到任何标注稀缺的视觉识别任务中做数据增广。
面向真实智能手机超分辨率的RAW域退化模型
RAW-Domain Degradation Models for Realistic Smartphone Super-Resolution
用标定得到的设备特定模糊与噪声参数替代通用先验,把公开渲染图像 unprocess 到各手机 RAW 域构造成对训练数据,可直接迁移到其他 RAW 域复原任务(去噪、去模糊、低光增强)的合成数据构造环节。
PrivSynth:面向合成数据隐私与效用的交替式与控制论优化
PrivSynth: Alternating and Control-Based Optimization for Privacy and Utility in Synthetic Data
把合成数据生成建模为隐私-效用的双目标优化,并用离散时间最优控制(PMP)求解数据选择参数,为视觉研究者提供了一套可复用的、在生成模型训练中显式抑制成员推理与重建泄露的优化框架。
PLACID:基于视频扩散与合成轨迹的身份保持多物体合成
PLACID: Identity-Preserving Multi-Object Compositing via Video Diffusion with Synthetic Trajectories
把预训练 I2V 扩散模型的时序先验当作多物体合成的『布局收敛机制』:随机初始化物体位置,让模型在视频帧序列中把它们平滑移动到目标布局,取最后一帧作为合成结果;这套『合成轨迹数据 + 末帧取图』的范式可迁移到任何需要多元素一致排布的可控生成任务。
PIX-TAB:结合投机解码与区域图像分割的高效像素级精确表格结构识别方法
PIX-TAB: Efficient PIXel-Precise TABle Structure Recognition Approach with Speculative Decoding and Region-Based Image Segmentation
位置感知的像素级 token 与仅训练期使用的框监督,为文档版面这类密集结构化预测提供了可复用的空间定位方案;投机解码在序列式结构生成上的加速也可迁移到其他自回归式视觉输出任务。
MedFG-VQA:面向轻量级医学视觉问答的低频记忆与图注意力
MedFG-VQA: Low-Frequency Memory and Graph Attention for Lightweight Medical VQA
把 DCT 低频特征与可学习记忆库结合、再用图卷积聚合精炼交叉注意力输出的做法,可直接迁移到其他视觉-语言对齐任务(如 captioning、grounding)中做轻量化的多模态融合模块。
LoD-Loc v3:利用实例轮廓对齐实现密集城市中的泛化空中定位
LoD-Loc v3: Generalized Aerial Localization in Dense Cities using Instance Silhouette Alignment
将语义建筑轮廓对齐升级为实例轮廓对齐,并配套生成大规模实例分割合成数据集,为密集城市场景下的跨场景视觉定位提供了可复用的数据与对齐范式。
可学习性引导的扩散用于数据集蒸馏
Learnability-Guided Diffusion for Dataset Distillation
提出可学习性引导的扩散生成框架,通过课程式增量合成数据减少冗余,可复用于任何需要高效训练数据合成的视觉任务,如图像分类、目标检测的数据压缩。
InternData-A1:面向通用策略预训练的高保真合成数据
InternData-A1: Pioneering High-Fidelity Synthetic Data for Pre-training Generalist Policy
提供了一套全解耦、可组合的仿真数据生成流水线,可批量产出多本体、多技能、长程操作轨迹;对做视觉-语言-动作模型的人而言,这是验证「纯合成数据预训练能否替代真机数据」的可复用数据与评测设定。
IDperturb:通过角度扰动增强合成人脸生成的多样性
IDperturb: Enhancing Variation in Synthetic Face Generation via Angular Perturbations
对做人脸识别训练数据的人:把身份嵌入限制在单位超球面的小角度锥内做扰动采样,无需重训扩散模型即可提升合成人脸的类内多样性,可直接作为身份条件扩散生成器的即插即用采样策略。
利用基础模型实现准确的材质分类
Harnessing the Power of Foundation Models for Accurate Material Classification
提出利用视觉语言基础模型进行自动标注和先验蒸馏的流程,可复用于其他数据稀缺的细粒度分类任务;其合成数据生成与自动标注管道为视觉研究提供了数据增广新思路。
FlowPalm:光流驱动的非刚性形变用于几何多样化的掌纹生成
FlowPalm: Optical Flow Driven Non-Rigid Deformation for Geometrically Diverse Palmprint Generation
利用光流估计真实掌纹对之间的非刚性形变统计先验,并在扩散采样过程中渐进引入几何形变,为生成具有几何多样性的合成数据提供了可复用的技术思路,可迁移到其他需要模拟形变的生物特征生成任务。
从生成视角探索空间智能
Exploring Spatial Intelligence from a Generative Perspective
提供了一个可复用的评测协议与合成数据管线:用 3D 先验引导生成并自动标注空间编辑样本,可直接用于评测或微调统一多模态模型的 3D 空间约束遵循能力,并验证生成式训练反哺空间理解。
DiG:差分视觉定位——增强多模态大语言模型的细粒度感知
DiG: Differential Grounding for Enhancing Fine-Grained Perception in Multimodal Large Language Models
把「找出两张相似图的全部差异并定位」做成无需标注数量的代理任务,配合3D渲染自动造配对数据,可直接用于增强MLLM的细粒度定位与空间推理,并可迁移到RefCOCO系列指代定位。
ClimaOoD:通过物理真实的合成数据改进异常分割
ClimaOoD: Improving Anomaly Segmentation via Physically Realistic Synthetic Data
ClimaDrive 的语义引导图像到图像框架可生成物理真实、天气多样的 OoD 驾驶数据,为异常分割模型提供高质量训练数据;其结构引导多天气生成与提示驱动异常修复的统一思路,可复用于其他需要合成异常样本的视觉任务。
CaptionFormer:面向时空目标的统一分割、跟踪与描述
CaptionFormer: Unified Segmentation, Tracking, and Captioning for Spatio-Temporal Objects
用现成 VLM 为视频中时空定位的实体自动生成描述,把 LVIS/LV-VIS 扩成带描述的预训练数据,再用一个端到端模型联合做检测、分割、跟踪与描述;对做视频-语言任务的人,这是一条用合成字幕绕开人工标注瓶颈的可复用数据构造与预训练路线。
通过语言模型连接人脸理解与动画
Bridging Facial Understanding and Animation via Language Models
将3D人脸参数序列当作语言token,用语言模型统一做运动理解与生成,为文本驱动人脸动画提供了可复用的量化运动token+LM建模范式,可迁移到人体动作或手势的文本-运动双向建模。
超越物体:面向细粒度分类的上下文合成数据生成
Beyond Objects: Contextual Synthetic Data Generation for Fine-Grained Classification
BOB 提出了一种微调 T2I 模型以生成高质量合成训练数据的策略:通过类无关属性(背景、姿态)显式条件化并在生成时边缘化,缓解过拟合并保留生成先验,可直接用于低样本细粒度分类的数据增强。
AnomalyVFM——将视觉基础模型转化为零样本异常检测器
AnomalyVFM -- Transforming Vision Foundation Models into Zero-Shot Anomaly Detectors
把任意预训练视觉基础模型(如 DINOv2、RADIO)通过低秩特征适配器加置信度加权像素损失改造成零样本异常检测器,并给出三阶段合成异常数据生成方案,可直接复用于工业质检等无监督缺陷定位场景。