ICLRMay, 2021

从真实数据到合成数据的转换：量化模型中的偏差

PDF
TL;DR本研究旨在建立使用合成数据训练的模型在偏见和公平之间的权衡，并研究了合成数据生成技术的变体，包括差分隐私生成方案，通过实验表明，合成数据训练的模型存在不同程度的偏差影响，且生成的特征不相关的技术表现良好。该研究有助于数据科学实践者理解合成数据的使用中的偏见。
synthetic databiasfairnessgenerative modelingdifferentially private generation
发现论文，激发创造
  • 使用合成数据生成器研究偏见：实证证据与哲学解释

    本文提出了一种框架来生成具有特定类型偏差和它们的组合的合成数据，以分析在机器学习模型中存在的各种偏差，讨论它们与道德和正义框架的关系，并利用我们提出的合成数据发生器在不同场景中（包括存在不同偏差组合的场景）进行实验，因此分析了偏差对未减轻和减轻的机器学习模型的性能和公平度指标的影响。

    Sep, 2022

  • 评估差分隐私合成数据对表格数据的效用和公平性在端到端机器学习流程中

    对比真实数据，研究调查了采用差分隐私合成数据可以替代机器学习流程中的真实数据，并确定了训练和评估机器学习模型的最有效的合成数据生成技术。结果显示，基于边缘分布的合成数据生成器能够获取与真实数据相似的实用性和公平性特征。

    Oct, 2023

  • 公平合成数据生成

    本研究提出一种通过预处理算法识别和删除偏差样本以生成更公平的合成数据的管道，可以有效地克服许多挑战，并在某些情况下提高性能。

    Oct, 2022

  • 合成基于人脸识别中的偏见和多样性

    合成数据在解决处理真实面部数据的伦理和法律挑战中作为真实数据的替代品出现。我们研究了合成面部识别数据集的多样性与真实数据集的对比，以及生成模型的训练数据分布如何影响合成数据的分布。我们还研究了在比较最近三个基于合成数据的面部识别模型与基准模型 (基于真实数据) 在所研究属性上的具体偏差。结果显示，生成器生成的不同属性具有与所使用的训练数据相似的分布。在偏差方面，合成模型与真实模型具有类似的偏差行为。然而，发现较低的内部一致性似乎有助于减少偏差。

    Nov, 2023

  • 在受监管行业中实现合成数据采纳

    本文介绍了数据中心化思维的重要性和隐私问题、提出了基于合成数据的解决方案，并开发了一种全面的测试方法（DAISYnt），以检验这种方法在高度监管的领域中的可行性和质量，例如金融和医疗保健。

    Apr, 2022

  • 可控信任权衡的审计及合成数据生成

    本文提出一个审核框架，围绕偏见和歧视预防、与真实数据的一致性、效用、鲁棒性和隐私保护进行综合评估，并引入信任指数对多个合成数据集进行排名，通过审核和认证报告连接不同利益相关者。

    Apr, 2023

  • 通过合成数据扩展提升数据分析能力

    合成数据生成是一种通过解决数据稀缺性和隐私问题、实现前所未有的性能而在数据科学领域引起了一场转变的生成人工智能的基石。本文介绍了用于分析的合成数据生成框架，该框架利用了统计方法在高保真度合成数据上的运用，这些数据由诸如表扩散和预训练生成转换模型等先进模型生成，并通过相关研究得到进一步的改进。通过三个案例研究：文本情感分析、结构化数据预测建模和表格数据推断，我们证明了该框架在传统方法之上的有效性，强调了合成数据生成在数据科学中的转化潜力。

    Oct, 2023

  • 超越隐私：合成数据的机遇与挑战

    本文探讨生成模型产生的合成数据可能成为机器学习领域的主导力量，可以创造更公平的数据、进行数据增强和模拟，尤其是在 ChatGPT 生成的文本方面。然而，在使用合成数据时，社区需要克服许多基本的挑战，其中最重要的是量化我们能够信任的查找或预测的程度。

    Apr, 2023

  • 公平合成数据引发强有力的统计平等

    通过在敏感属性上等化合成数据生成器的目标概率分布，使用 AI 生成的合成数据进行训练的下游模型能够提供公平的预测，使得即使从偏见的原始数据推断出来，也能够提供强大的公平预测。

    Nov, 2023

  • Bt-GAN：通过偏差转换生成对抗网络生成公平合成健康数据

    通过包括公平性考虑和利用生成对抗网络等先进技术，我们提出了一种新颖且专业的方法来解决医疗领域合成数据生成的局限性，为医疗应用中更可靠和无偏的预测铺平了道路。

    Apr, 2024