Jul, 2020

基于加性同态加密的深度神经网络用于非对称协作机器学习

PDF
TL;DR本文提出一种不对称协作机器学习的实用方案，其中一方拥有数据，另一方仅拥有标签，提出了一种新的保护隐私的架构方案，可以有效地帮助两方合作训练深度学习模型。
machine learningdata privacycollaborative learningprivacy-preserving architecturedeep learning
发现论文，激发创造
  • GAN 下的深度模型：来自协作深度学习的信息泄露

    本文研究了协作深度学习的隐私问题以及差分隐私技术的应用，结果发现目前的方法都无法保护参与者的训练数据隐私，因为我们提出了一种基于生成对抗网络的攻击方法。

    Feb, 2017

  • 分布式欺诈预防系统中的局部差分隐私嵌入模型

    全球金融犯罪活动推动了欺诈预防中对机器学习解决方案的需求。然而，由于对意外泄露和对抗性攻击的担忧，预防系统通常被独立地提供给金融机构，并且几乎没有数据共享的规定。我们在本文中提出了一个从隐私角度设计、在最近的 PETs 奖励竞赛中获奖的合作深度学习框架，用于欺诈预防。我们利用不同长度交易序列的潜在嵌入表示以及局部差分隐私来构建一个安全地通知外部托管的欺诈和异常检测模型的数据发布机制。我们在由大型支付网络捐赠的两个分布式数据集上评估了我们的贡献，并展示了对流行的推断时攻击的鲁棒性，以及类似于替代应用领域的效用 - 隐私权衡。

    Jan, 2024

  • 多源私有数据上的高效深度学习

    Myelin 是一种深度学习框架，它结合了安全和隐私保护原则，使用可信硬件区域和差分隐私等技术以实现完全私密的机器学习模型训练。

    Jul, 2018

  • 具有外部隐私泄露分析的分散协同学习框架

    本文提出了两种分散式多任务学习在隐私约束下的方法论上的进展，旨在为下一代区块链平台的未来发展铺平道路。第一，我们扩展了协作字典学习 (CollabDict) 的现有框架，之前仅适用于高斯混合模型，通过将深度变分自动编码器 (VAE) 纳入框架，特别关注异常检测。我们证明了基于 VAE 的异常评分函数与非深层模型具有相同的数学结构，并进行了全面的定性比较。其次，考虑到 “预训练模型” 的广泛应用，我们对使用 CollabDict 训练的模型在外部共享时的数据隐私泄漏进行了数学分析。我们展示了 CollabDict 方法在应用于高斯混合模型时遵守 Renyi 差分隐私准则。另外，我们提出了一个实用的度量标准，用于监测学习过程中的内部隐私泄漏。

    Apr, 2024

  • CryptoNN：在加密数据上训练神经网络

    提出了一种名为 CryptoNN 的框架，该框架使用功能性加密方案来支持加密数据上的神经网络模型的训练，以解决神经网络模型训练过程中的隐私问题，并显示出与 MNIST 数据集上基线神经网络模型相似的准确性。

    Apr, 2019

  • 面向隐私保护深度神经网络的图像加密方案攻击

    该研究针对深度神经网络中的图像应用提出了一种加密技术，并尝试通过选择明文和密文攻击来测试其安全性。

    Apr, 2020

  • 实用的、私密的协作价值确认

    在使用机器学习的背景下，提出了一种基于全同态加密方案和标签差分隐私的交互式协议，确保两个参与方在合作前能得到准确的预测改进，并通过实验证明，该方案相比完全使用全同态加密操作的协议，能够获得更快的计算结果。

    Oct, 2023

  • Pencil: 私密且可扩展的协作学习，无需无合谋假设

    Pencil 是第一种为协作学习提供数据隐私、模型隐私和可扩展性的私有训练框架，无需依赖于非勾结假设。

    Mar, 2024

  • CaPC Learning: 保密和私密的协同学习

    我们提出一种名为 CaPC 的机器学习方法，通过使用安全的多方计算和同态加密等技术，实现在协作学习环境中同时满足数据保密性和隐私性的要求，各方不需要显式地加入其培训集或训练集中央模型，且每个参与者都能够获得更高的准确性和公正性。

    Feb, 2021

  • 个性化和私密的点对点机器学习

    本文提出了一种高效的分散式（点对点）和异步算法来解决个性化模型的学习，同时满足强隐私要求，并证明了它的收敛速率。我们展示了如何使算法往常差异保持私密以保护个人数据集的信息披露，并正式分析了效用和隐私之间的权衡。实验结果表明，在非私密约束下，我们的方法大大优于以前的工作，在隐私约束下，我们可以显著改进在独立学习中得到的模型。

    May, 2017