Jun, 2024

基于评分的扩散模型的公平数据生成

PDF
TL;DR通过使用扩散模型为基础的框架 FADM，本文提出了一种从存在偏见的数据集中生成全新的、公平的合成数据，而不是直接引入公平学习算法来解决人工智能决策公正性问题。实验证明，FADM 在下游任务中表现出更好的准确性和最佳的公平性，同时允许对生成样本的类别进行灵活控制。
fairnessai decision-makingfair learning algorithmssynthetic datadiffusion model-based framework
发现论文，激发创造
  • 公平扩散：教导文本到图像生成模型公平性

    通过一项称为公平扩散的新策略，无需数据筛选和额外培训，即可在没有任何偏见的情况下指导生成模型的公平性和防止其加重偏见。

    Feb, 2023

  • 隐私敏感推荐系统的多分辨率扩散

    使用基于评分的扩散推荐模型（SDRM）可以生成逼真的合成数据，用以保护用户隐私或解决数据稀疏的问题，并在替代或增补原始数据时相对其他模型提高了 4.30% 的召回率（Recall@$n$）和 4.65% 的 NDCG@$n$。

    Nov, 2023

  • 平衡行为：扩散模型中的分布导向去偏

    提出了一种无需额外数据或模型重新训练的去偏置方法，利用属性分布引导生成的图像，通过 Attribute Distribution Predictor（ADP）建立属性分布预测器，从而实现公平生成，并通过生成数据平衡训练集来训练公平属性分类器。

    Feb, 2024

  • 扩散模型中的公平采样通过切换机制

    通过使用属性交换机制的公平度感知采样方法，扩散模型在生成公平数据和保持生成数据效用两个关键方面具有有效性。

    Jan, 2024

  • 欺骗性扩散：生成合成对抗样本

    引入了欺骗扩散的概念 -- 训练生成 AI 模型以产生具有对抗性的图像。与传统的对抗性攻击算法不同，欺骗扩散模型可以创建任意数量的新的、被错误分类的图像，这些图像与训练或测试图像没有直接关联。欺骗扩散在规模上提供了对抗性训练数据以加强防御算法，包括在其他情况下难以找到的错误分类类型。在我们的实验中，我们还研究了在部分受攻击数据集上进行训练的效果。这突出了生成扩散模型的一种新型漏洞：如果攻击者能够秘密地污染部分训练数据，那么生成的扩散模型将产生相似比例的误导输出。

    Jun, 2024

  • 用扩散模型合成平衡的混合类型表格数据

    介绍了一种公平的扩散模型，用于生成平衡的敏感属性数据，并通过实证证据表明该方法在训练数据中有效地减轻了类别不平衡问题，同时保持生成样本的质量，并且在性能和公平性方面优于现有方法用于综合表格数据。

    Apr, 2024

  • 面向公平性的对抗扰动：用于缓解部署的深度模型的偏差

    文章提出了一种灵活的方法来提高人工智能系统的公平性，即针对不同族群的公正性问题，利用对抗性扰动来盲化输入数据中与公平性相关的特征，该方法有效且具有出色的性能。

    Mar, 2022

  • 联邦数据模型

    利用 Federated Data Model (FDM) 方法开发了一种能够在不同地点之间训练准确且注重隐私的人工智能模型的方法，通过扩散模型学习一处地点的数据特征，并生成可用于其他地点的合成数据，成功地应用于医学图像分割任务。

    Mar, 2024

  • 高斯协调：扩散型人脸生成模型中实现公平性

    本文提出了一种用于平衡生成图像的面部属性的新方法，通过在扩散模型的潜在空间中使用高斯混合模型 (GMM) 来定位面部属性的平均值，从而减小生成过程中的偏差。我们的方法不需要重新训练，而是实时定位子空间来减小生成公平数据的偏差，并保持生成样本的质量。在多个人脸属性数据集上对我们的方法进行评估，结果表明我们的方法在代表性公平性方面实现了更公平的数据生成，同时保持了生成样本的质量。

    Dec, 2023

  • DreamDA: 用扩散模型进行生成型数据增强

    该论文提出了一个新的基于扩散模型的分类导向框架 DreamDA，通过考虑训练图像中的原始数据作为种子并扰动其反扩散过程，DreamDA 生成符合原始数据分布的多样样本，并引入自训练范式生成伪标签和使用合成数据训练分类器，在四个任务和五个数据集上进行的广泛实验证明了 DreamDA 在合成高质量多样的图像并生成准确标签方面的有效性。

    Mar, 2024