Apr, 2022

SF-PATE: 可扩展、公平且私密的教师集成聚合

PDF
TL;DR本文旨在研究一种隐私保护和公平的模型，该模型允许采用现有的公平模型，保护个人信息的隐私同时学习非歧视性预测器。实验证明该模型具有可扩展性、准确性和公正性。此外，该文章是第一个允许对非常大的神经网络训练私人和公平模型的提议。
non-discriminationprivacy-preservingfairnessneural networksprediction tasks
发现论文，激发创造
  • 私有集成模型对公正性的影响

    该研究探讨了使用 “PATE” 算法是否会导致不公平，证明了它可能会导致个体组之间的准确性差异，分析了导致这些不成比例影响的算法和数据属性以及为缓解这些影响提供了建议。

    May, 2023

  • 使用隐私人口统计数据进行公正学习

    本文研究通过个人隐私保护的方式，实现对受保护属性的学习，在使用中不产生歧视，同时在受保护属性只在数据子集中存在的情况下，实现公平预测模型的学习。

    Feb, 2020

  • 使用 PATE 进行可扩展私有学习

    本文介绍 Private Aggregation of Teacher Ensembles (PATE) 这种利用集合的 “教师” 模型来构建 “学生” 隐私机器学习模型的方法，并提出一些新的机制来更好地实现差分隐私，在大规模的数据集上进行了检验。

    Feb, 2018

  • 关于以大部分为私有敏感属性的公平分类

    本文提出了在机器学习半私密设置中进行公平分类的新框架 FairSP，该框架可以借助少量的干净敏感属性来纠正嘈杂的敏感属性，然后通过对抗的方式，共同模拟已经校正的和干净的数据，以实现去偏差和预测，并证明该模型可以保证当大多数敏感属性是私密时的公平性。

    Jul, 2022

  • 差分隐私公平学习

    研究如何在收集敏感属性信息受到禁止或限制的情况下，通过差分隐私算法实现公平学习，并提出两种算法来设计实现，同时保证了差分隐私和均等几率性，讨论这三个性质间的权衡关系。

    Dec, 2018

  • 基于半监督知识迁移的深度学习私有训练数据共享

    本研究提出了一种称为私有教师集成（PATE）的方法，通过多个使用不同数据集训练的模型进行加密学习，从而实现对模型训练数据的隐私保护，达到最新的隐私 / 效用平衡，且适用于包括非凸模型在内的任何模型。

    Oct, 2016

  • 拉格朗日对偶方法实现差分隐私和公平深度学习

    这篇论文研究了如何使用差分隐私和拉格朗日对偶的方法来设计神经网络，以确保在预测中不出现性别、种族或年龄等偏见，同时保护个人敏感信息，对于保证准确性、隐私与公平之间的平衡关系问题进行了分析，并在多个预测任务上进行了实验验证。

    Sep, 2020

  • 热 PATE：用于多样任务的私密聚合分布

    私有教师集成的 PATE（The Private Aggregation of Teacher Ensembles）框架是一种多用途的隐私保护机器学习方法，通过训练教师模型来聚合标记新的学生模型的训练样例。传统的 PATE 主要应用于分类类任务，但是我们提出的 hot PATE 则专为多样化场景设计，通过维持隐私和响应的多样性来实现知识迁移。我们通过分析和实证研究表明，hot PATE 在隐私 - 效用权衡方面与基线 “cold” PATE 相当甚至在多样化场景下表现显著优越。

    Dec, 2023

  • G-PATE：基于教师鉴别器私有聚合的可扩展差分隐私数据生成器

    本文提出了一种新的基于 PATE 框架的隐私保护数据生成模型（G-PATE），它利用生成对抗网络生成数据，并结合隐私聚合机制以确保强大的隐私保证，相对于现有方法，G-PATE 显著提高了隐私预算的使用效率。

    Jun, 2019

  • 盲目的正义：加密敏感属性下的公正

    介绍了如何通过安全多方计算的方法，加密敏感属性，学习一个基于结果的公平模型，而无需揭示个人敏感信息，从而避免种族或性别等敏感属性对机器学习模型造成的不公平问题。

    Jun, 2018