从信息瓶颈到隐私漏斗
提出一种用于捕获用户向被动好奇敌手发布数据时产生的隐私威胁并在效用约束下加以限制的一般性统计推断框架,其中应用自信息成本函数于非渐进信息论方法用于表征最佳可实现的隐私,基于这些结果引入平均信息泄漏和最大信息泄漏两种隐私度量,证明在两种指标下,将用户数据映射到隐私保护输出的最优映射可被描述为修正的率失真问题并可设计成凸编程,最后与差分隐私进行比较。
Oct, 2012
本文提出了一种隐私保护的实用方法,使用通用的统计推断框架捕获推断攻击下的隐私威胁并满足效用约束,采用隐私保护概率映射技术对发布的数据进行扭曲处理,同时解决了实际中遇到的实用挑战,通过引入量化步骤和减少优化大小的方法,我们的方法在保证数据原版用途的情况下,取得了良好的隐私保护效果。
Aug, 2014
利用信息论隐私漏斗(PF)模型,开发出一种使用端到端训练框架的隐私保存表示学习方法,通过对抹消和实用性之间的权衡进行量化来实现。我们将其应用于最先进的人脸识别系统,该模型展示了在不同输入(从原始面部图像到派生或改进的嵌入)上的适应性,并且在分类、重建和生成等任务中表现出了竞争力。
Jan, 2024
在当今数据驱动的世界中,公开可用信息的广泛传播加剧了信息泄漏(IL)的挑战,提高了安全性问题。本研究利用统计学习理论和信息论建立了一个理论框架来准确量化和检测 IL。该方法通过近似贝叶斯预测器的对数损失和准确度来准确估计互信息(MI),并使用自动化机器学习(AutoML)来近似贝叶斯预测器。研究通过在合成数据集和真实数据集上的实验验证了该方法的有效性。
Jan, 2024
本文介绍差分隐私与最小 Rény 熵互信息相关性的模型,指出差分隐私可推出对互信息的限制,同时提供了一个在保持差分隐私的前提下产生最大随机值的方法.
Mar, 2011
本文提出了一种基于互信息的量化度量方法,用于评估联邦学习中客户端数据的梯度信息泄露风险,并提供了一种新的方法来估算高维梯度和批处理输入数据之间的互信息。实验结果表明,该指标可靠地反映了联邦学习中信息泄露的程度,并证明了风险程度与任务模型状态以及内在数据分布相关。
Feb, 2021
研究在数据即使隐私保护给定的情况下,隐私保证和结果统计估计器的效用之间的权衡,通过信息论和标准最小最大技术,提出本地隐私约束下统计速率的精确刻画,并提出新的隐私保护机制和计算有效的估计器,以实现界限。
Feb, 2013
本文提出了一种基于差分隐私的机制,以保证数据查询的数据隐私和查询效用之间的平衡。机制包含了每个可能的用户的期望最小化的代价函数,并且针对每个固定数量的查询和差分隐私级别,存在一种几何机制可以同时保证每个可能用户的最佳实用性,这是一种极强的实用性保障。
Nov, 2008