Sep, 2023

通过影响函数评估本地差分隐私对效用损失的影响

PDF
TL;DR我们提出了一种使用影响函数的方法来选择与允许的隐私 - 效用权衡最符合的隐私参数值，而无需进行大量的计算，例如广泛的模型训练和数据私有化。该方法适用于多种常见的随机化情景，并可以通过类别依赖的标签噪声校正方法来纠正由随机化引起的噪声。通过实证评估，我们展示了影响函数在二进制和多类别设置下，能够在特征和标签上应用随机响应时准确近似测试损失的真实变化情况，并且在应用噪声校正方法时具有较小的平均绝对误差。
发现论文，激发创造
  • 对局部差分隐私对公平性影响的系统和正式研究：初步结果

    通过定量研究隐私保护机制差分隐私对机器学习模型公平性的影响，本研究提供了在不同的隐私级别和数据分布下，差分隐私能对模型公平性产生影响的界限，并确定了隐私减少歧视和增加歧视的情况，验证了理论发现在合成和现实世界数据集上的有效性。

    May, 2024

  • 多维局部差分隐私对公平性的影响

    自动决策系统在人们生活中的重要决策中越来越普遍地使用。由于操作数据的敏感性以及由此产生的决策，对这些技术的适当使用需要解决一些道德问题，特别是公平性和隐私保护。本文通过在多个敏感属性（即多维数据）存在的情况下研究本地差分隐私（LDP）对公平性的影响，提供了详细的实证分析。通过对合成数据集和基准数据集的详细实证分析，得出了相关的结论。最后，我们总结了我们的发现，并提出了一些建议，以指导从业者在保持公平性和实用性的同时采用有效的隐私保护措施。

    Dec, 2023

  • 回归问题的最优无偏随机化方法与标签差分隐私

    我们提出了一种新的标签随机化方法，用于在标签差分隐私（DP）约束下训练回归模型，并通过减少偏差来提高标签 DP 训练神经网络的隐私效用权衡的性能。

    Dec, 2023

  • 使用输出特定和数据解析隐私配置文件探究 ML 模型的数据集级隐私转变

    本文研究了衡量数据集上 DP 机制对模型隐私保护的能力的新指标 - 隐私覆盖度，并提出了使用该指标排名训练集中样本隐私的方法，进而使用观察到的邻域分布的不可区分性转换来选择 epsilon 值。

    Jun, 2023

  • 联邦学习中效率受限的效用隐私双目标优化的理论分析

    该研究论文系统地提出了一种效率受限的差分隐私联邦学习的双目标优化问题，并针对噪声水平（σ）、通信轮数（T）和样本比例（q）进行了深入的理论分析，通过大量实验验证了分析结果的有效性和实用性，并为差分隐私联邦学习的低成本参数设计提供了宝贵的指导。

    Dec, 2023

  • 一个简单实用的方法来减少差异隐私的不均衡影响

    通过使用分层方法，可以在不用额外的隐私预算的情况下得到高准确性的全局统计学估计，从而减少差异的工作是减少差异的差异数据隐私机制应该被比较的一个强有力的基线。

    Dec, 2023

  • 针对分布估计的效用优化局部差分隐私机制

    本文介绍了一种关于局部差分隐私技术的改进算法 —— 使用语义标签和个性化机制实现的 “优化保密” 机制（ULDP），能够在保护用户隐私的前提下对个人数据进行分布估计，提高了数据利用率。

    Jul, 2018

  • 隐私规范化：语言模型中的联合隐私和效用优化

    本文介绍了两种隐私保护正则化方法，以实现公用性和隐私的联合优化，通过广泛评估，展示了这些方法的优势，例如略有优越的公用性 - 隐私权衡、更快的训练以及确保少数群体的平等待遇。

    Mar, 2021

  • 局部差分隐私的极值机制

    本研究研究了本地差分隐私和效用之间的基本权衡，介绍了一种组合极端私有化机制族，即楼梯机制，并通过展示它包含广泛信息理论实用程序的最优私有化机制来证明其有效性。同时，我们证明了二进制和随机响应机制在低、高隐私区间是普遍最优的，能够很好地近似中间区间。

    Jul, 2014

  • 随机投影与加性噪声下的线性回归隐私和效用权衡

    通过向数据集添加噪音或映射到低维子空间，使用条件互信息作为隐私保护度量，研究线性回归问题的差分隐私问题与非协同 SIMO 问题之间的联系。

    Feb, 2019