Jan, 2019

分布式医疗机器学习的差分隐私 ADMM

PDF
TL;DR本文提出了使用差分隐私的 Alternating Direction Method of Multipliers（P-ADMM）算法，使得在分布式机器学习中每个本地数据集与邻近代理交换计算结果的迭代过程中保持数据隐私不泄露，并证明这一算法与非私有算法有着相同的收敛率，实验结果表明 P-ADMM 在现有的基于 ADMM 的差分隐私算法中表现最佳。
distributed machine learningalternating direction method of multipliersdifferential privacyprivacy leakageconvergence rate
发现论文，激发创造
  • DP-ADMM: 基于 ADMM 的差分隐私分布式学习

    本文提供了 DP-ADMM 算法，它结合了近似增广拉格朗日函数和时间变化的高斯噪声添加，以在相同的不同隐私保证下，实现更高效的一般目标函数的分布式学习，同时应用矩 accountant 方法来限制端到端的隐私损失。DP-ADMM 算法可以用于更广泛的分布式学习问题，具有可证明的收敛性和明确的效用 - 隐私权衡，并且可以实现高的收敛性和模型精度。

    Aug, 2018

  • 基于 ADMM 的可信差分隐私分布式机器学习

    本文提出了 PP-ADMM 和 IPP-ADMM，采用扰动优化和稀疏向量技术，在保护本地数据隐私的同时，提高了模型的准确性和收敛速度，并跟踪零集中的差分隐私度量，实验证明在相同的隐私保证下，该算法优于现有算法。

    Aug, 2020

  • 基于 ADMM 的分布式算法的隐私和精度改进

    为了解决分布式计算过程中数据隐私泄露的问题，提出了一种基于改进的 ADMM 算法的扰动方法，可同时提高实用性和隐私性，并得到收敛性条件和收敛速率下界。

    Jun, 2018

  • 分布式算法中的回收型 ADMM: 降低计算量，提高隐私性和准确性

    本研究提出了一种名为 R-ADMM 的新方法，它可以在分布式系统中，通过每个偶数迭代时应用线性近似，同时只使用上一个奇数迭代的结果来计算，从而减少了计算量和隐私泄露，并根据目标扰动提供了隐私分析等.

    Oct, 2018

  • 回收 ADMM: 提高分布式算法的隐私性和精度

    提出了基于线性逼近、节省计算量和数据隐私的递归交替方向乘法算法（R-ADMM），并进一步修改（MR-ADMM）。该算法可用于解决分布式环境中的凸优化问题，改进了隐私 - 准确性权衡。

    Oct, 2019

  • 分布式特征隐私学习：ADMM 共享方法

    本文提出了一种用于处理分布式学习中固有分布或纵向分区的特征的风险最小化方法的 ADMM 共享框架，介绍了新颖的差分隐私 ADMM 共享算法，并通过精心设计的噪声扰动对隐私保证进行了约束，其实验结果表明所提出的 ADMM 算法具有高效的收敛性和鲁棒性，并在高维特征空间的数据集上表现出优势，尤其是相对于梯度方法。

    Jul, 2019

  • D-ADMM: 可高效通信的可分离优化分布式算法

    提出了一种分布式算法 - 分布式交替方向乘子法 (D-ADMM)，可解决相互连接节点或代理的分离优化问题，该算法已被证明在网络为二分图或所有函数都是强凸时收敛，用于解决信号处理和控制问题时，相较于现有算法将通信频率大幅降低。

    Feb, 2012

  • 基于共识算法的差分隐私分散深度学习

    本研究提出了一种基于不同隐私的分散式深度学习方法，该方法对协作学习的数据进行隐私保护，保障节点之间数据的安全交换。实验结果表明，在稀疏图和不均匀数据分布下，不同隐私梯度跟踪具有抗干扰性，并且可在不向其他代理共享原始数据的情况下学习高准确性模型。

    Jun, 2023

  • 自适应一致性 ADMM 分布式优化

    本文研究了分布式交替方向乘子法，提出了使用不同的优化参数来提高算法性能的方法，并引入了自适应一致性交替方向乘子法来自动调节期权参数，最终获得了 O（1 /k）的收敛速度。

    Jun, 2017

  • 具有生成先验学习的快速可证明 ADMM

    本文提出了一种线性化的 ADMM 算法，用于最小化一个凸函数在非凸约束下的解，旨在解决变量处于神经网络范围内的约束问题，并给出了这种算法在 feedforward 架构下的性能特征，相比于梯度下降法更加高效。

    Jul, 2019