合成数据生成的全面探索：一项调查

Jan, 2024

合成数据生成的全面探索：一项调查

Comprehensive Exploration of Synthetic Data Generation: A Survey

André Bauer, Simon Trapp, Michael Stenger, Robert Leppich, Samuel Kounev...

TL;DR近年来，机器学习在不同领域得到了广泛应用，但由于数据获取昂贵和隐私法规的限制，训练数据的稀缺性成为进展的阻碍。合成数据作为一种解决方案出现，但大量发布的模型和有限的概述文献给决策带来了挑战。本文调查了过去十年中 417 个合成数据生成模型，提供了模型类型、功能和改进的全面概述。我们发现模型性能和复杂性不断提高，以神经网络为基础的方法主导，除隐私保护数据生成外。计算机视觉占主导地位，GAN 是主要生成模型，而扩散模型、Transformer 和循环神经网络则在竞争。从我们的性能评估中，我们发现常见度量标准和数据集的稀缺性使得比较具有挑战性。此外，文献中忽略了培训和计算成本，需要在未来的研究中予以关注。本文为合成数据生成模型的选择提供了指南，并确定了未来探索的关键领域。

Abstract

Recent years have witnessed a surge in the popularity of machine learning (ML), applied across diverse domains. However, progress is impeded by the scarcity of training data due to expensive acquisition and privacy legislation. Synthetic data emerges as a solution, but the abundance of

machine learning synthetic data generation model types neural networks computer vision

发现论文，激发创造

深度学习的合成数据

本研究展示了合成数据的各种发展和应用方向，其中讨论合成数据的基本计算机视觉问题、室内外场景合成及数据应用、机器人仿真环境、合成数据在隐私相关应用方面的重要性，同时概括了如何改进和生产合成数据的替代方法。其次，介绍了合成数据转化后的真实应用存在的问题，最后，着重强调了未来在合成数据研究方面的最有潜力的方向。

Sep, 2019

超越隐私：合成数据的机遇与挑战

本文探讨生成模型产生的合成数据可能成为机器学习领域的主导力量，可以创造更公平的数据、进行数据增强和模拟，尤其是在 ChatGPT 生成的文本方面。然而，在使用合成数据时，社区需要克服许多基本的挑战，其中最重要的是量化我们能够信任的查找或预测的程度。

Apr, 2023

深度生成模型、合成表格数据与差分隐私：概述与综述

该文章综合介绍了最近在通过深度生成模型生成合成数据方面的研究进展，重点关注表格数据集。我们特别概述了在隐私敏感数据背景下合成数据生成的重要性。此外，我们强调了使用深度生成模型相对于其他方法的优势，并详细解释了底层概念，包括无监督学习、神经网络和生成模型。该论文涵盖了在对表格数据集使用深度生成模型时涉及的挑战和考虑因素，如数据归一化、隐私问题和模型评估。本综述为对合成数据生成及其应用感兴趣的研究人员和实践者提供了有价值的资源。

Jul, 2023

计算机视觉中合成数据增强方法的调查

这篇论文对合成数据增强技术进行了广泛评估，包括基于真实 3D 图形建模、神经风格迁移、差分神经渲染、生成对抗网络和变分自编码器等生成人工智能技术。对于每一种方法类别，我们关注重要的数据生成和增强技术、广泛的应用范围和具体的用例，以及现有限制和可能的解决方法。此外，我们总结了用于训练计算机视觉模型的常见合成数据集，强调主要特点、应用领域和支持的任务。最后，我们讨论了合成数据增强方法的有效性，并希望通过这篇详细的论文为读者提供必要的背景信息和深入了解现有方法及相关问题。

Mar, 2024

通过合成数据扩展提升数据分析能力

合成数据生成是一种通过解决数据稀缺性和隐私问题、实现前所未有的性能而在数据科学领域引起了一场转变的生成人工智能的基石。本文介绍了用于分析的合成数据生成框架，该框架利用了统计方法在高保真度合成数据上的运用，这些数据由诸如表扩散和预训练生成转换模型等先进模型生成，并通过相关研究得到进一步的改进。通过三个案例研究：文本情感分析、结构化数据预测建模和表格数据推断，我们证明了该框架在传统方法之上的有效性，强调了合成数据生成在数据科学中的转化潜力。

Oct, 2023

关于基于 LLMs 驱动的合成数据生成、整理和评估的调查

这篇论文旨在通过提出一种基于合成数据生成的通用工作流程的组织方式，突出现有研究中的差距，并概述未来研究的前景，以引导学术和工业界更深入、更系统地探索基于大型语言模型驱动的合成数据生成的能力和应用。

Jun, 2024

隐私保护机器学习的合成数据集生成

提出一种从原始数据集生成安全合成数据集的方法，基于预训练的深度神经网络（DNN）的批量归一化（BN）层统计信息和随机噪声进行优化来匹配原始数据的层次统计分布。该方法可以用于从头开始训练神经网络来产生合理的分类性能。

Oct, 2022

生成人工智能用于合成数据生成：方法、挑战与未来

该论文探讨利用巨大的大语言模型生成特定任务训练数据的先进技术，介绍了方法论、评估技术和实际应用，并讨论了当前的限制和未来研究的潜在路径。

Mar, 2024

语言模型生成的合成数据的最佳实践和经验教训

人工智能模型的成功依赖于大规模、多样化、高质量的数据集的可用性，而由于数据稀缺、隐私问题和高成本，获取这些数据集可能具有挑战性。合成数据作为一种有前景的解决方案出现，通过生成模仿真实世界模式的人工数据。本文提供了合成数据研究的概述，并讨论了其应用、挑战和未来方向。我们通过先前研究中的实证证据来展示其有效性，并强调确保其真实性、保真性和无偏性的重要性。我们强调了在使用合成数据构建更强大、包容性和可信赖的语言模型时的责任使用的需求。

Apr, 2024

提高机器学习合成数据的逼真度研究

本研究着眼于深入评估和比较对于机器学习的通用合成数据的对抗训练效果，并旨在使用未标记的真实数据条件下的合成 - 真实生成模型将合成图像转化为更真实的风格，并通过定性和定量指标进行广泛的性能评估和比较。

Apr, 2023