Aug, 2023

解锁差分隐私图像分类的准确度与公平性

PDF
TL;DR预训练的基础模型经差分隐私微调可在下游任务中实现接近非隐私分类器的准确性，并且在四个数据集中实现与非隐私技术的准确性相差不多，包括两个医学成像基准数据集。此外，我们的隐私医学分类器在不同人口群体之间没有更大的性能差异。此里程碑使得差分隐私训练成为一项实用且可靠的技术，有潜力广泛应用于敏感数据的安全机器学习训练，同时保护个人隐私。
privacy-preserving machine learningdifferential privacyprivacy guaranteesperformance disparitiespre-training data
发现论文，激发创造
  • 具有有限公共数据的差分隐私模型的预训练

    通过使用有限的公共数据，我们提出了一种新颖的差分隐私持续预训练策略，可以显著减轻差分隐私优化器的性能下降问题，并在 ImageNet-21k 上实现 41.5% 的差分隐私准确率（ε=8），以及在下游任务 Places365 和 iNaturalist-2021 上分别达到 55.7% 和 60.0% 的非差分隐私准确率，与当前最先进的标准预训练方法相媲美并且明显优于现有的差分隐私预训练模型。

    Feb, 2024

  • 医学影像隐私保护的大规模、公平、准确训练 AI 模型

    本文旨在通过比较隐私保护性训练和非隐私训练，在胸部放射图诊断方面评估两种方法的准确性和公平性，研究发现，在隐私预算为 7.89 的情况下，DP 卷积神经网络与非私有卷积神经网络相比，在保持较高准确性的前提下，性能仅下降了 2.6% 左右，同时，隐私保护训练并不会加剧针对年龄、性别或共病的歧视。

    Feb, 2023

  • 差分隐私逻辑回归中的准确性增强：一种预训练方法

    此研究旨在通过一个预训练模块提高 DP-ML 模型，特别是逻辑回归模型的准确性，通过在没有隐私问题的公共训练数据集上对模型进行首次训练，然后通过 DP 逻辑回归和私有数据集对模型进行微调，数值结果显示，增加预训练模块显著提高了 DP 逻辑回归的准确性。

    Jul, 2023

  • 巨型数据集 ImageNet 规模下使用差分隐私进行训练

    本文旨在探究如何使用差分隐私来训练机器学习模型，以 ImageNet 图像分类为例，展示如何使用方法和模型类型来让训练过程更好地进行。我们展示了一些方法，使我们能够使用 DP 来训练一个 ResNet-18，精度为 47.9％。虽然这比 “朴素” 的 DP 训练要好，但是离没有隐私的情况下的 75％精度还有很大的差距。

    Jan, 2022

  • 差分隐私对模型准确性影响不一

    本文研究的 DP-SGD 算法在训练神经网络时，由于梯度裁剪和噪声加法等机制对复杂和少数类样本的影响更大，造成训练模型的准确率不公平，使 DP-SGD 算法不适用于存在不平衡类别数据的训练任务。

    May, 2019

  • 训练知道自己不知道什么的私有模型

    通过研究选择性分类器在差分隐私约束下的效果，探讨深度学习模型的可靠性及隐私泄漏问题，发现最近的一种基于现成的深度学习模型生成检查点的方法在差分隐私下更为合适，使用差分隐私不仅会降低模型的效能，而且在隐私预算降低时需要付出相当大的覆盖成本。

    May, 2023

  • 通过尺度解锁高精度差分隐私图像分类

    本文主要研究采用差分隐私保护方法进行深度学习的训练，并在调优超参数以及利用一些技巧来提高信号传播和收敛速度的基础上，在图像分类任务中获得了新的最高精度，证明了采用过参数化模型的 DP-SGD 方法也可以实现更好的性能，这是在私有和非私有图像分类之间精度差距缩小的一个重要步骤。

    Apr, 2022

  • 在卫生保健领域进行差分隐私预测：追踪您的长尾

    本研究研究了隐私保护机制对健康医疗领域数据挖掘和机器学习的影响和局限性，旨在通过使用最新的差分隐私数据挖掘算法来训练隐私保护的模型，并对这些模型进行全面的实证研究。该研究还探讨了隐私保护学习在医疗保健中的好处和成本。

    Oct, 2020

  • 隐私的代价：探索其对人工智能公平性的双重影响

    通过广泛的评估结果，我们证明不同隐私度对公平性的影响并非单调。相反，我们观察到准确性差异在机器学习过程中添加更多的差分隐私噪声（增强隐私）时初步增加，但在更高隐私水平下通过更多噪声后逐渐减小。此外，通过在差分隐私随机梯度下降机器学习方法中实施梯度剪裁，可以减轻隐私噪声对公平性的负面影响。这种缓和是通过较低的剪裁阈值来调节差异性增长实现的。

    Apr, 2024

  • 对局部差分隐私对公平性影响的系统和正式研究：初步结果

    通过定量研究隐私保护机制差分隐私对机器学习模型公平性的影响，本研究提供了在不同的隐私级别和数据分布下，差分隐私能对模型公平性产生影响的界限，并确定了隐私减少歧视和增加歧视的情况，验证了理论发现在合成和现实世界数据集上的有效性。

    May, 2024