- 区块链上的健康数据安全:差分隐私和联邦学习框架
提出一种框架来增强基于区块链的物联网(BIoT)系统在医疗保健领域中的隐私保护,通过集成差分隐私(DP)和联邦学习(FL)来保护物联网节点收集的敏感健康数据,并利用动态个性化和自适应噪声分布策略平衡隐私和数据效用,同时通过区块链技术确保模型 - 差分隐私联邦学习:系统性综述
我们的研究针对差分隐私的联邦学习进行了系统的概述和分类,提出了一种新的基于差分隐私和联邦场景定义和保证的分类方法,并探讨了差分隐私在联邦学习场景中的应用,为隐私保护的联邦学习提供了有价值的洞见和未来研究方向。
- HRNet:差分隐私层次和多分辨率网络在人类流动数据合成中的应用
介绍了一种专为合成真实人类流动数据而保证差分隐私的新型深层生成模型(HRNet),通过多任务学习、多分辨率、隐私预训练等多种组件来增强模型在差分隐私约束下的能力。在真实数据集上的广泛比较实验证明,HRNet 在平衡效用与隐私权衡方面相比现有 - DP-DyLoRA: 动态低秩适应下,基于变换器的模型在设备上进行差分隐私联邦学习时的微调
该研究评估了差分隐私对于联邦学习系统中使用大规模本地化 Transformer 模型进行精调的实用性,发现全精调普遍会导致性能严重下降,但通过参数高效的精调方法能够缓解这一问题,而 DP-DyLoRA 方法在现有的 DP-PEFT 方法中表 - 面向年龄感知的差分隐私联邦学习调度
探索差分隐私联邦学习在时变数据库中的应用,着重讨论关于年龄、准确性和差分隐私之间的三重平衡,并提出了一个优化问题,旨在满足差分隐私要求的同时最小化聚合模型和不考虑差分隐私约束下获得的模型之间的损失差异。通过引入基于年龄的损失上界来充分利用调 - FedSC: 基于非独立同分布数据的具有光谱对比目标的可证明联邦自监督学习
最近的研究努力将自监督学习与联邦学习框架相结合。提出一种名为 FedSC 的可证明的 FedSSL 算法,基于光谱对比目标,通过周期性共享数据表示的相关矩阵,实现了跨客户数据样本的对比,改善了数据表示的质量,并部署差分隐私保护来控制额外的隐 - 具有私密密度估计的差分隐私合成数据
我们采用差分隐私的框架研究了敏感数据分析的方法,通过将均匀采样步骤替换为私有分布估计器,我们改进了 Boedihardjo 等人工作的算法,并提供了离散和连续分布的计算保证,适用于多种统计任务。
- 无加噪差分隐私联邦学习:何时可行?
通过在集成模型更新中引入内在的随机性来减少为实现差分隐私所需的额外噪音量,以提供安全聚合的联邦学习 (Federated Learning) 为主题的研究论文。
- 隐私感知的伯鲁特拟合编码计算用于联邦学习
我们提出了一种基于 Berrut 近似编码计算的解决方案,用于同时解决联邦学习中的隐私问题和非线性函数计算以及分布式矩阵乘法的问题。该解决方案适用于各种联邦学习场景,并在隐私和精度之间找到了一个良好的平衡。
- 1-Diffractor: 基于词级差分隐私的高效且保存实用性的文本混淆
该研究论文介绍了在自然语言处理中隐私保护的研究,特别关注基于差分隐私的方法以及高效的 1-Diffractor 机制的提出,它在提高效率的同时保持了竞争力的效用和隐私得分。
- ICML去中心化学习中相关噪音的隐私保护能力
本文提出了 Decor,它是一种具有差分隐私保证的分散式 SGD 变体,通过一轮通信中安全地交换随机种子来生成成对抵消的相关高斯噪声,以保护每一轮通信中的本地模型,并在理论上和实践上证明 Decor 在任意连通图中匹配了中心化差分隐私的最佳 - 通过扩散模型在一次性联邦学习中解决异质性和隐私问题
本研究探讨了扩散模型在一次性联邦学习中的有效性,证明其在应对数据异构性和提高联邦学习性能方面的适用性,并与其他一次性联邦学习方法在差分隐私下的效用进行了比较。此外,为了在差分隐私设置下提高生成样本的质量,我们提出了一种实用的傅里叶幅度过滤( - 多医院规模心电图数据中的联邦学习和差分隐私技术
本研究论文探讨了将联邦学习(FL)和差分隐私(DP)技术应用于大规模心电图(ECG)数据的方法。该研究利用来自加拿大阿尔伯塔省 7 所医院的 1,565,849 个 ECG 示踪进行基于 FL 和 DP 的多标签 ECG 分类模型的学习。F - 机器学习隐私防护评估误导性的研究
现有经验性隐私评估存在严重陷阱,忽略了差分隐私的可证明保证,无法准确评估最易受攻击样本的隐私泄露,使用弱攻击方法且避免与实际差分隐私基准进行比较。在五个实证隐私防御案例中,我们发现先前的评估低估了隐私泄露量一个数量级。在我们更强的评估方法下 - 差分隐私联邦学习:服务器可信度、估计和统计推理
该研究论文探讨了分布式环境下维护隐私的差分隐私联邦学习的关键挑战,研究了在差分隐私约束下高维度估计和推断的困难,并提出了针对线性回归模型的新颖联邦估计算法和统计推断的方法。广泛的模拟实验支持了理论上的进展,强调了该方法的有效性和可靠性。
- 构建增强量子机器学习鲁棒性的最佳噪声通道
通过构建一类本质上为 ε- 差分隐私的噪声通道,我们成功地复制了退极化和随机旋转通道的 ε- 差分隐私边界,从而验证了我们框架的广阔普遍性。我们还使用半定规划构建了一个最优鲁棒通道,在小规模实验评估中证明了使用最优噪声通道相对于退极化噪声的 - PATE-TripleGAN:采用高斯差分隐私的隐私保护图像合成
通过引入分类器对未标记数据进行预分类并建立三方极小极大博弈,减少对标记数据的依赖性,PATE-TripleGAN 隐私保护训练框架结合 PATE 和 DPSGD 算法,使模型更有效地保留梯度信息,确保隐私保护,并提高模型的效用。
- 保密联邦计算
该研究论文介绍了一种新颖的系统架构,利用可信执行环境 (TEEs) 和开放源代码,既确保了服务器端计算的机密性,又提供了外部可验证的隐私属性,增强了私有联邦计算的稳固性和可信度。
- 具有差分隐私的黎曼流形上的联邦学习
提出了一个基于 Riemannian 流形的差分隐私技术的私有联邦学习框架 (PriRFed),分析了隐私保证的同时确立了收敛性属性,是第一个具有隐私保证和收敛结果的基于 Riemannian 流形的联邦学习框架
- 隐私的代价:探索其对人工智能公平性的双重影响
通过广泛的评估结果,我们证明不同隐私度对公平性的影响并非单调。相反,我们观察到准确性差异在机器学习过程中添加更多的差分隐私噪声(增强隐私)时初步增加,但在更高隐私水平下通过更多噪声后逐渐减小。此外,通过在差分隐私随机梯度下降机器学习方法中实