Jul, 2020

如何民主化和保护人工智能：公平与差分私有的分散式深度学习

PDF
TL;DR该论文提出了一种基于声誉系统的去中心化深度学习框架，它利用数字代币、本地可信度和差分隐私来确保公平性和隐私保护，实验结果显示其在三种实际环境下均能取得高度公平性，并且精度与集中式和分布式框架相当，高于单独框架。
发现论文，激发创造
  • 基于共识算法的差分隐私分散深度学习

    本研究提出了一种基于不同隐私的分散式深度学习方法，该方法对协作学习的数据进行隐私保护，保障节点之间数据的安全交换。实验结果表明，在稀疏图和不均匀数据分布下，不同隐私梯度跟踪具有抗干扰性，并且可在不向其他代理共享原始数据的情况下学习高准确性模型。

    Jun, 2023

  • 基于知识蒸馏的本地差分隐私分布式深度学习

    本文提出了一种隐私保护的分布式深度学习框架 LDP-DL, 通过使用本地差分隐私和知识蒸馏进行模型训练。实验结果表明，在三个常用深度学习数据集 (CIFAR10, MNIST, FashionMNIST) 上的实验中，LDP-DL 在隐私预算和模型准确性方面均优于其他竞争对手。

    Feb, 2022

  • 隐私的代价：探索其对人工智能公平性的双重影响

    通过广泛的评估结果，我们证明不同隐私度对公平性的影响并非单调。相反，我们观察到准确性差异在机器学习过程中添加更多的差分隐私噪声（增强隐私）时初步增加，但在更高隐私水平下通过更多噪声后逐渐减小。此外，通过在差分隐私随机梯度下降机器学习方法中实施梯度剪裁，可以减轻隐私噪声对公平性的负面影响。这种缓和是通过较低的剪裁阈值来调节差异性增长实现的。

    Apr, 2024

  • 基于学习的声明性隐私保护联邦数据管理框架

    该研究提出了一种端到端的工作流程，用于自动化隐私保护技术，通过使用差分隐私随机梯度下降（DP-SGD）算法训练的深度学习模型替换实际数据的部分以回答查询，以平衡联邦查询处理中的隐私和准确性。

    Jan, 2024

  • 一种自适应快速收敛的差分隐私深度学习方法

    本文提出了 ADADP 算法，该算法是一种自适应且具有可证明隐私保证的学习算法，通过引入自适应噪声以及自适应学习率，显著降低了隐私成本并减轻了差分隐私对模型准确性的负面影响。ADADP 在真实数据集上的实验结果表明，它在隐私成本和模型准确性方面都优于最先进的具有差分隐私的方法。

    Dec, 2019

  • GAN 下的深度模型：来自协作深度学习的信息泄露

    本文研究了协作深度学习的隐私问题以及差分隐私技术的应用，结果发现目前的方法都无法保护参与者的训练数据隐私，因为我们提出了一种基于生成对抗网络的攻击方法。

    Feb, 2017

  • 差分隐私深度生成模型的统一视角

    利用不同隐私保护方法在深度神经网络上进行私密训练，以实现维度较高的数据生成，并提出统一的方法以提供系统性的派生方法，满足不同用例的需求，探讨不同方法之间的优势、限制和内在相关性以启发未来研究，并提出前进的潜在途径以推动隐私保护学习领域的发展。

    Sep, 2023

  • FairDP：差分隐私下的合规公平性保障

    本文介绍了 FairDP 机制，它是一种同时确保差分隐私和公平性的新型机制。 FairDP 通过为不同的个体群体独立训练模型，并使用群体特定的剪辑术语来评估和限制 DP 的差异影响来运行。 在整个训练过程中，该机制逐步集成来自群体模型的知识，从而制定在下游任务中平衡隐私，实用性和公平性的综合模型。 广泛的理论和实证分析验证了 FairDP 的功效，展示了与现有方法相比，模型实用性，隐私和公平性之间的权衡得到了改善。

    May, 2023

  • 拉格朗日对偶方法实现差分隐私和公平深度学习

    这篇论文研究了如何使用差分隐私和拉格朗日对偶的方法来设计神经网络，以确保在预测中不出现性别、种族或年龄等偏见，同时保护个人敏感信息，对于保证准确性、隐私与公平之间的平衡关系问题进行了分析，并在多个预测任务上进行了实验验证。

    Sep, 2020

  • 深度学习差分隐私模型发布

    提出了一种基于集中差分隐私的神经网络训练方法，通过动态隐私预算分配和新的优化技术来提高模型准确性、训练效率和隐私保护能力。

    Apr, 2019