Apr, 2023

可控信任权衡的审计及合成数据生成

PDF
TL;DR本文提出一个审核框架，围绕偏见和歧视预防、与真实数据的一致性、效用、鲁棒性和隐私保护进行综合评估，并引入信任指数对多个合成数据集进行排名，通过审核和认证报告连接不同利益相关者。
synthetic datasetsgenerative ai modelsauditing frameworkbias and discrimination preventiontrust index
发现论文，激发创造
  • 从真实数据到合成数据的转换：量化模型中的偏差

    本研究旨在建立使用合成数据训练的模型在偏见和公平之间的权衡，并研究了合成数据生成技术的变体，包括差分隐私生成方案，通过实验表明，合成数据训练的模型存在不同程度的偏差影响，且生成的特征不相关的技术表现良好。该研究有助于数据科学实践者理解合成数据的使用中的偏见。

    May, 2021

  • 在受监管行业中实现合成数据采纳

    本文介绍了数据中心化思维的重要性和隐私问题、提出了基于合成数据的解决方案，并开发了一种全面的测试方法（DAISYnt），以检验这种方法在高度监管的领域中的可行性和质量，例如金融和医疗保健。

    Apr, 2022

  • 我能相信我的伪造数据吗 -- 用于医疗领域合成表格数据的全面质量评估框架

    通过综合文献回顾和团队经验，我们提出了一个概念性框架，以保证合成数据在医疗人工智能应用中的质量，并扩展了普遍质量维度，包括公平性和碳足迹，并提出了支持实际应用所必需的阶段，通过增加透明度和减少安全风险来增强对合成数据的信任，以加速可信任的医疗人工智能工具的发展和推广，促进患者受益。

    Jan, 2024

  • 超越隐私：合成数据的机遇与挑战

    本文探讨生成模型产生的合成数据可能成为机器学习领域的主导力量，可以创造更公平的数据、进行数据增强和模拟，尤其是在 ChatGPT 生成的文本方面。然而，在使用合成数据时，社区需要克服许多基本的挑战，其中最重要的是量化我们能够信任的查找或预测的程度。

    Apr, 2023

  • 使用合成数据训练 AI 模型：可持续发展的机遇与风险

    研究了合成数据的政策，包括创建、利用和传播。必须在保护隐私和数据的可用性之间找到平衡，并制定标准化准则来应对合成数据的挑战。

    Aug, 2023

  • 公平合成数据生成

    本研究提出一种通过预处理算法识别和删除偏差样本以生成更公平的合成数据的管道，可以有效地克服许多挑战，并在某些情况下提高性能。

    Oct, 2022

  • 推动零售数据科学：合成数据的综合评估

    本文介绍了一种综合性框架，用于评估合成零售数据，注重保真度、实用性和隐私性。通过稳定性和普适性来衡量保真度，证明了合成数据在需求预测和动态定价等关键零售任务中的有效性，通过差分隐私确保数据具有出色的相似性和安全性，验证了该框架对于合成零售数据的可靠且可扩展的评估，是推进零售数据科学的重要工具。

    Jun, 2024

  • 隐私保护的可扩展性：学习分析中全面综合的合成表格数据生成与评估

    我们提出了一种综合评估合成数据的方法，该方法包括合成数据质量的三个维度：相似性、实用性和隐私性。通过将这种评估应用于三个不同的学习分析数据集以及三种不同的合成数据生成方法，我们的结果表明合成数据可以在保护隐私的同时保持与真实数据相似的实用性。此外，针对不同学习分析场景中不同的隐私和数据实用性需求，我们提出了定制的合成数据生成建议。该论文不仅提供了合成数据的综合评估，还说明了在学习分析领域中缓解隐私问题的潜力，从而促进了合成数据在学习分析中的更广泛应用，推动了开放科学的良好实践。

    Jan, 2024

  • 在医疗领域利用生成式人工智能模型进行合成数据生成：平衡研究和隐私

    本文探讨使用生成式 AI 模型，如 GAN 和 VAE，为研究和培训创建逼真的匿名患者数据，以及在医疗保健中应用合成数据的益处、挑战和未来研究方向。

    May, 2023

  • 虚假数据的真实风险：合成数据、多元化借名和绕过同意

    使用合成数据的机器学习系统存在两个主要风险：通过增加数据集的多样性和代表性，使用合成数据会导致虚假信心的高风险；同时，使用合成数据还会规避数据使用授权，对现有的治理和道德实践产生复杂影响，将数据与受影响个体分离开，可能使算法引发的伤害权力进一步集中。

    May, 2024