Nov, 2023

对自信度排名的人口普查个体微观数据再建方法的隐私威胁的调查

PDF
TL;DR报告结果表明，提出的置信度排序的重构攻击在重新识别以及属性泄露方面无法有效指导，这一结果进一步证明了使用基于差分隐私的解决方案的必要性，并且展示了适当解释发布的统计聚合数据能更准确地重构普查记录，从而证明了置信度排序的重构无法威胁隐私。
reconstruction attacksdifferential privacyreleased statisticsconfidentialitycensus records
发现论文，激发创造
  • 用假设检验解释差分隐私来限制数据重建攻击

    我们建立了假设检验差分隐私与重建鲁棒性的联系，并推导出来自拉普拉斯和高斯机制以及其子采样变体的闭式、解析或数值重建鲁棒性上界。

    Jul, 2023

  • 保护重构及其在私有联邦学习中的应用

    本文探讨了在分散式数据环境下，采用局部差分隐私保护敏感数据的可行性，设计了最优局部差分隐私机制，实现了在大规模数据训练下保护隐私，同时保证模型准确性。

    Dec, 2018

  • 用 Rényi 差分隐私来防御重建攻击

    本文研究重建攻击和隐私保护，通过实验表明较大的隐私预算不能保护模型的成员推断，但可以保护好非常罕见的秘密，并提出一种相同机制的更好的重建攻击隐私保证。

    Feb, 2022

  • 对无数据先验的对手的边界重建攻击成功性进行限制

    通过实验结果，我们在现实场景中提供了差分隐私机器学习模型下重构成功的明确上界，这有助于在不同上下文和度量标准下进行隐私参数的明智选择。

    Feb, 2024

  • 相似性为基础的隐私测量的不足：针对 “真正匿名合成数据” 的重构攻击

    通过评估数据的统计相似性来衡量隐私是不可靠和不一致的，而生成模型只应以差分隐私为标准以保护数据隐私。本文针对领先公司提供的隐私度量指标进行分析，揭示了一些关键的推理缺陷，并提出了成功恢复生成模型中绝大部分用于训练的异常记录的重构攻击 ReconSyn。研究表明，仅将差分隐私应用于模型或使用低效的生成器不能减轻 ReconSyn 对隐私的泄露风险，因为泄露主要来自于度量指标。总体而言，我们的工作提醒从业人员不要偏离既定的隐私保护机制。

    Dec, 2023

  • 贝叶斯容量作为联邦学习中重构攻击的度量

    在这篇论文中，我们利用信息论量化信息流的框架，形式化了重建威胁模型。我们展示了贝叶斯容量与 DP-SGD 算法泄漏给对重建攻击感兴趣的敌手相关的 Sibson 无穷阶互信息之间的紧密上界。我们提供了实证结果，证明了这一指标在衡量机制对抗重建威胁方面的有效性。

    Jun, 2024

  • 线性重构攻击的威力

    研究重构攻击在统计数据隐私方面的应用，并展示其可以适用于比以前更广泛的领域。我们说明如何将一系列发布转化为线性格式，从而使它们可以使用多项式时间重构算法。

    Oct, 2012

  • 一个简单实用的方法来减少差异隐私的不均衡影响

    通过使用分层方法，可以在不用额外的隐私预算的情况下得到高准确性的全局统计学估计，从而减少差异的工作是减少差异的差异数据隐私机制应该被比较的一个强有力的基线。

    Dec, 2023

  • 基于拓扑结构的去重构防护技术在去中心化学习中的应用

    分布式学习中的隐私保护求和，在无环网络中无法重构隐私数据，而基于拓扑结构的去重构攻击是首次的拓扑学方法。

    Dec, 2023

  • 协调医学影像中的人工智能性能与数据重建韧性

    人工智能模型对其训练数据的信息泄漏存在漏洞，而隐私增强技术，如差分隐私，旨在规避这些弱点。通过设置可量化的隐私预算，差分隐私为训练模型提供最强大的保护，同时限制推断训练样本的风险或重建原始数据的风险。本研究对比了在不同隐私预算下人工智能模型的性能与理论风险界限和重建攻击的实证成功。研究结果表明，使用很大的隐私预算可以防止重建攻击，而性能下降微不足道。因此，我们得出结论，在处理敏感数据时，完全不使用差分隐私是不负责任的，并为隐私风险和模型性能之间的平衡找到了基础，为进一步的讨论奠定了基础。

    Dec, 2023