Jan, 2024

分布式欺诈预防系统中的局部差分隐私嵌入模型

PDF
TL;DR全球金融犯罪活动推动了欺诈预防中对机器学习解决方案的需求。然而，由于对意外泄露和对抗性攻击的担忧，预防系统通常被独立地提供给金融机构，并且几乎没有数据共享的规定。我们在本文中提出了一个从隐私角度设计、在最近的 PETs 奖励竞赛中获奖的合作深度学习框架，用于欺诈预防。我们利用不同长度交易序列的潜在嵌入表示以及局部差分隐私来构建一个安全地通知外部托管的欺诈和异常检测模型的数据发布机制。我们在由大型支付网络捐赠的两个分布式数据集上评估了我们的贡献，并展示了对流行的推断时攻击的鲁棒性，以及类似于替代应用领域的效用 - 隐私权衡。
global financial crimemachine learningfraud preventioncollaborative learningprivacy-preserving data processing
发现论文，激发创造
  • 基于加性同态加密的深度神经网络用于非对称协作机器学习

    本文提出一种不对称协作机器学习的实用方案，其中一方拥有数据，另一方仅拥有标签，提出了一种新的保护隐私的架构方案，可以有效地帮助两方合作训练深度学习模型。

    Jul, 2020

  • GAN 下的深度模型：来自协作深度学习的信息泄露

    本文研究了协作深度学习的隐私问题以及差分隐私技术的应用，结果发现目前的方法都无法保护参与者的训练数据隐私，因为我们提出了一种基于生成对抗网络的攻击方法。

    Feb, 2017

  • 使用差分隐私原型联邦推荐

    我们提出了一种新的联邦学习方法，以保护敏感数据领域（如医学或银行业）中的用户隐私，同时用于推荐系统，不提取原始数据、用户统计数据或个人偏好信息，通过构建一组原型，推断全局行为模式，提供差分隐私保证，并实现局部模型的本地适应，取得了远优于传统中心计算模型、准确度高且具备可证明隐私保障的推荐效果。

    Mar, 2020

  • 面向差分隐私的文本表示

    该研究开发了一个基于非受信任服务器设置的深度学习框架，包括三个模块：嵌入模块、随机化模块和分类器模块，并提出了一种新的本地差分隐私协议，以减小隐私参数 epsilon 对准确性的影响，提高随机化概率的灵活性。分析和实验表明，该框架可提供与非隐私框架和现有 LDP 协议相当甚至更好的性能，展示了该 LDP 协议的优势。

    Jun, 2020

  • 无窥视：私有分布式深度学习综述

    本文研究了分布式深度学习的多种方法，以保护数据的机密性，同时还允许服务器训练模型。在神经网络的背景下，比较了联邦学习，分离式学习和大批量随机梯度下降等多种方法，以及差分隐私、同态加密、遗忘传输和混淆电路等安全方法，讨论了它们在计算资源、数据泄露和通信效率方面的优缺点，并分享了未来的趋势。

    Dec, 2018

  • 差分隐私与对抗鲁棒机器学习：实证评估

    使用敌对训练和差分隐私训练的组合，本研究探讨了针对同时攻击的防御方法。通过使用成员推断攻击来基准测试 DP-Adv 技术的性能，并实证显示该方法的隐私性与非鲁棒私有模型相当。此外，该研究还强调了在动态训练范式中探索隐私保证的需求。

    Jan, 2024

  • 深度学习差分隐私模型发布

    提出了一种基于集中差分隐私的神经网络训练方法，通过动态隐私预算分配和新的优化技术来提高模型准确性、训练效率和隐私保护能力。

    Apr, 2019

  • 局部差分隐私下联邦学习中的实用聚合

    本文研究基于联邦学习的隐私保护问题，提出了一种局部差分隐私机制，以解决当前机制存在的噪声数据接近原始值、估计平均数的方差过大和深度学习模型权重维数高导致隐私预算过大的问题。实验结果表明，该机制不仅具有优异的深度学习性能，而且能够提供强大的隐私保证。

    Jul, 2020

  • 医疗数据隐私保护的分布式深度学习

    本研究介绍了一种在分布式情况下使用差分隐私训练临床数据神经网络的方法，并在 eICU 协作研究数据库和 The Cancer Genome Atlas 上进行了验证。

    Dec, 2018

  • 多源私有数据上的高效深度学习

    Myelin 是一种深度学习框架，它结合了安全和隐私保护原则，使用可信硬件区域和差分隐私等技术以实现完全私密的机器学习模型训练。

    Jul, 2018