Apr, 2024

具有外部隐私泄露分析的分散协同学习框架

PDF
TL;DR本文提出了两种分散式多任务学习在隐私约束下的方法论上的进展，旨在为下一代区块链平台的未来发展铺平道路。第一，我们扩展了协作字典学习 (CollabDict) 的现有框架，之前仅适用于高斯混合模型，通过将深度变分自动编码器 (VAE) 纳入框架，特别关注异常检测。我们证明了基于 VAE 的异常评分函数与非深层模型具有相同的数学结构，并进行了全面的定性比较。其次，考虑到 “预训练模型” 的广泛应用，我们对使用 CollabDict 训练的模型在外部共享时的数据隐私泄漏进行了数学分析。我们展示了 CollabDict 方法在应用于高斯混合模型时遵守 Renyi 差分隐私准则。另外，我们提出了一个实用的度量标准，用于监测学习过程中的内部隐私泄漏。
decentralized multi-task learningprivacy constraintsblockchain platformsvariational autoencodersanomaly detection
发现论文，激发创造
  • 基于加性同态加密的深度神经网络用于非对称协作机器学习

    本文提出一种不对称协作机器学习的实用方案，其中一方拥有数据，另一方仅拥有标签，提出了一种新的保护隐私的架构方案，可以有效地帮助两方合作训练深度学习模型。

    Jul, 2020

  • GAN 下的深度模型：来自协作深度学习的信息泄露

    本文研究了协作深度学习的隐私问题以及差分隐私技术的应用，结果发现目前的方法都无法保护参与者的训练数据隐私，因为我们提出了一种基于生成对抗网络的攻击方法。

    Feb, 2017

  • 用户定制的隐私保护数据分布式生成

    本文提出利用变分自动编码器生成数据的潜在表示形式并将其与小型生成滤波器相结合，以实现在保护用户隐私的同时提高机器学习模型的效果。通过对 MNIST，UCI-Adult 和 CelebA 等数据集进行实验，结果显示了该方法具有很高的准确性。

    Apr, 2019

  • 分布式欺诈预防系统中的局部差分隐私嵌入模型

    全球金融犯罪活动推动了欺诈预防中对机器学习解决方案的需求。然而，由于对意外泄露和对抗性攻击的担忧，预防系统通常被独立地提供给金融机构，并且几乎没有数据共享的规定。我们在本文中提出了一个从隐私角度设计、在最近的 PETs 奖励竞赛中获奖的合作深度学习框架，用于欺诈预防。我们利用不同长度交易序列的潜在嵌入表示以及局部差分隐私来构建一个安全地通知外部托管的欺诈和异常检测模型的数据发布机制。我们在由大型支付网络捐赠的两个分布式数据集上评估了我们的贡献，并展示了对流行的推断时攻击的鲁棒性，以及类似于替代应用领域的效用 - 隐私权衡。

    Jan, 2024

  • 隐私保护生成框架对抗成员推断攻击

    本文提出了一种隐私保护的生成模型，通过变分自编码器 (VAE) 的信息提取和数据生成能力，生成符合差分隐私要求的合成数据来防御成员推理攻击，并进行了实验验证。

    Feb, 2022

  • 协同过滤的变分自编码器

    本研究提出一种基于 VAE 的非线性概率模型，用于解决协作过滤问题，相对于现有的线性因子模型，具有更强的建模能力，并使用贝叶斯推断进行参数估计来得到更好的泛化性能。本方法在现有多个数据集上均取得了显著优异的性能表现，并对使用多项式分布作为似然函数进行了比较实验，分析了使用贝叶斯方法的优缺点及适用场景。

    Feb, 2018

  • 隐私保护机器学习的分布式信任框架

    本文介绍了一种分布式基础设施，用于实现分布式代理之间的点对点信任，从而协同执行保护隐私的机器学习工作流程。使用 Hyperledger Aries，Decentralised Identifiers (DIDs) 和 Verifiable Credentials (VCs) 建立了一个分布式信任体系，促进与心理健康护理相关的联邦学习工作流程。

    Jun, 2020

  • 具有自动转换搜索的隐私保护协作学习

    本论文提出了一种基于数据增强的解决方案，以防止敌对方从共享的梯度中恢复训练数据，文中使用创新的搜索方法发现数据增强策略，并使用两个新的度量指标来评估策略的影响，实验结果表明该方法能够高效地击败现有的重建攻击，对模型性能影响微不足道。

    Nov, 2020

  • 差分隐私数据生成模型

    提出了一种基于差分隐私的自编码生成模型和变分自编码生成模型，这些模型可以有效地保护深度学习的隐私，并且经过评估具有较强的鲁棒性。

    Dec, 2018

  • Pencil: 私密且可扩展的协作学习，无需无合谋假设

    Pencil 是第一种为协作学习提供数据隐私、模型隐私和可扩展性的私有训练框架，无需依赖于非勾结假设。

    Mar, 2024