使用合成数据训练 AI 模型：可持续发展的机遇与风险
使用合成数据的机器学习系统存在两个主要风险：通过增加数据集的多样性和代表性，使用合成数据会导致虚假信心的高风险；同时，使用合成数据还会规避数据使用授权，对现有的治理和道德实践产生复杂影响，将数据与受影响个体分离开，可能使算法引发的伤害权力进一步集中。
May, 2024
人工智能模型的成功依赖于大规模、多样化、高质量的数据集的可用性，而由于数据稀缺、隐私问题和高成本，获取这些数据集可能具有挑战性。合成数据作为一种有前景的解决方案出现，通过生成模仿真实世界模式的人工数据。本文提供了合成数据研究的概述，并讨论了其应用、挑战和未来方向。我们通过先前研究中的实证证据来展示其有效性，并强调确保其真实性、保真性和无偏性的重要性。我们强调了在使用合成数据构建更强大、包容性和可信赖的语言模型时的责任使用的需求。
Apr, 2024
在快速发展的人工智能领域中，合成数据集的创建和利用日益重要。此报告重点探讨了合成数据的多方面特点，尤其强调了这些数据集可能存在的挑战和潜在偏见。它探讨了合成数据生成的方法，涉及传统统计模型到先进深度学习技术，并研究了它们在不同领域的应用。此报告还批判性地讨论合成数据集涉及的道德考虑和法律影响，突出了确保公平性、减轻偏见和维护人工智能发展中的道德标准的机制的紧迫性。
Jan, 2024
本文探讨生成模型产生的合成数据可能成为机器学习领域的主导力量，可以创造更公平的数据、进行数据增强和模拟，尤其是在 ChatGPT 生成的文本方面。然而，在使用合成数据时，社区需要克服许多基本的挑战，其中最重要的是量化我们能够信任的查找或预测的程度。
Apr, 2023
本文介绍了数据中心化思维的重要性和隐私问题、提出了基于合成数据的解决方案，并开发了一种全面的测试方法（DAISYnt），以检验这种方法在高度监管的领域中的可行性和质量，例如金融和医疗保健。
Apr, 2022
研究挑战性合成数据方案的企业部署，重点关注由大量个人高度敏感数据引起的隐私问题，并将挑战系统化为五个主要组别：i) 生成，ii) 基础架构和体系结构，iii) 治理，iv) 合规和规范，v) 采纳。此外，我们讨论了企业可以采用的战略和系统方法，以有效应对这些挑战并通过实现的解决方案建立信任。
Jul, 2023
深度生成模型扩大了创建逼真合成健康数据集的潜力，但是仍然存在许多问题和挑战，包括如何评估合成数据集与原始真实数据集的相似性和预测效果，以及分享时的隐私风险。本文概述了合成健康数据领域的现状，包括生成和评估方法与工具，实际应用示例，监管和伦理环境，数据访问和治理选项，以及未来发展机会。
Jan, 2024