Nov, 2023

从原则到实践：垂直数据最小化用于机器学习

PDF
TL;DR通过数据泛化提出了基于垂直数据最小化的工作流，旨在训练和部署遵循数据最小化原则的机器学习模型，以减少数据泄露风险并保护客户隐私。提出了一种基于政策对齐的对抗场景量化方法，并设计了一种特别有效的垂直数据最小化算法。
发现论文，激发创造
  • 机器学习中的数据最小化原则

    基于法律定义，本文介绍了数据最小化的优化框架，并使用多个优化算法来实现数据最小化，通过对合规性和用户隐私影响的全面评估，我们的分析强调了数据最小化的隐私预期与实际隐私利益之间的不匹配，强调了需要考虑现实世界隐私风险的多个方面的方法的需求。

    May, 2024

  • 差分隐私深度生成模型的统一视角

    利用不同隐私保护方法在深度神经网络上进行私密训练，以实现维度较高的数据生成，并提出统一的方法以提供系统性的派生方法，满足不同用例的需求，探讨不同方法之间的优势、限制和内在相关性以启发未来研究，并提出前进的潜在途径以推动隐私保护学习领域的发展。

    Sep, 2023

  • 将数据最小化的法律原则实现个性化

    本文探讨在个性化信息获取系统中 GDPR 中 `data minimization' 的执行，通过实证研究找到了不同执行方式的可行性，对不同用户产生的影响和表现结果进行分析，揭示了在此背景下数据最小化问题的复杂性和尚存的计算和监管挑战。

    May, 2020

  • 迭代训练程序添加差分隐私的一般方法

    本文介绍了一种模块化方法，可以最小化对训练算法的更改，提供各种隐私机制的配置策略，并隔离和简化计算最终隐私保证的关键逻辑，以解决在隐私敏感数据集上训练机器学习模型所面临的实际挑战。

    Dec, 2018

  • 关于利用差分隐私和经典正则化技术进行优化的效用与保护

    该文探讨了在深度学习模型中如何保护训练数据的隐私，比较了不同优化方法对模型性能、训练效果和隐私攻击的影响，并确定了 dropout 和 l2 正则化作为较优秀的隐私保护方法。

    Sep, 2022

  • 基于学习的声明性隐私保护联邦数据管理框架

    该研究提出了一种端到端的工作流程，用于自动化隐私保护技术，通过使用差分隐私随机梯度下降（DP-SGD）算法训练的深度学习模型替换实际数据的部分以回答查询，以平衡联邦查询处理中的隐私和准确性。

    Jan, 2024

  • 实用差分隐私的三种工具

    在实际数据中进行差分隐私学习存在挑战：隐私保证难以解释，对私有数据进行的超参数调整会降低隐私预算，通常需要进行特殊的隐私攻击来测试模型的隐私性。本文提出了三种工具来使差分隐私机器学习更加实用：（1）可在训练前以集中方式进行的简单的健全性检查，（2）自适应裁剪边界来减少可调隐私参数的有效数量，（3）大批量训练可以提高模型性能。

    Dec, 2018

  • 使用对抗正则化的成员隐私机器学习

    介绍了一种隐私机制，用于训练机器学习模型以保证隐私，并使用敌对训练算法最小化模型的分类损失和最大的成员推断攻击，从而提高模型的鲁棒性和泛化性能，该机制在深度神经网络上的测试结果表明，可以在可接受的分类误差下显著降低成员推断攻击的风险。

    Jul, 2018

  • 深度学习差分隐私模型发布

    提出了一种基于集中差分隐私的神经网络训练方法，通过动态隐私预算分配和新的优化技术来提高模型准确性、训练效率和隐私保护能力。

    Apr, 2019

  • 深度学习与差分隐私

    本论文提出新的算法技术，包括隐私成本的细化分析，并在差分隐私框架下进行。 实验结果表明：我们可以在较小的隐私成本下训练具有非凸目标的深度神经网络，而且在软件复杂性、训练效率和模型质量上具有可管理的成本。

    Jul, 2016