Jun, 2024

通过元学习实现自动化的隐私保护技术

PDF
TL;DRAUTOPRIV 是第一个自动化的隐私保护方法，利用元学习自动化进行去身份化过程，有助于安全发布用于机器学习任务的数据。它通过提供一系列有前景的解决方案来预测预测性能和隐私风险，从而在新领域内实现最佳近似。通过将计算复杂性和能源消耗大大降低，AUTOPRIV 具有很高的效能。
privacy-preserving techniquesautomated privacy-preservation methodmeta-learningde-identification processsecure release of data
发现论文，激发创造
  • 隐私保护机器学习的鲁棒表示学习：一种多目标自编码器方法

    通过鲁棒表示学习作为编码数据的方式，我们提出了一种旨在优化隐私效用平衡的方法，利用自动编码器进行多目标训练，然后将编码部分的潜在特征和学习特征连接起来作为我们的数据的编码形式，以安全地发送给第三方进行深度训练和超参数调优，从而在维护数据隐私的同时提高性能。

    Sep, 2023

  • 基于人工智能的匿名化：在利用机器学习时保护个人数据隐私

    人工智能的发展显著改变了人们的生活，但也对隐私和安全构成了重大威胁。因此，通过机器学习算法实现个人信息的智能保护已成为一项重要关注点。本文着重于个人数据隐私保护和匿名化的核心研究目标，通过使用机器学习的差分隐私保护算法，实现个人数据隐私保护和检测，并解决与隐私和个人数据保护相关的现有挑战，提出改进建议，分析影响数据集的因素以实现及时的个人数据隐私检测和保护。

    Feb, 2024

  • 隐私保护的图机器学习从数据到计算：综述

    在图机器学习中，数据的收集、共享和分析往往涉及多个参与方，每个参与方可能需要不同级别的数据安全和隐私保护。为此，在保护敏感信息方面，保持隐私非常重要。在大数据时代，数据实体之间的关系变得前所未有的复杂，越来越多的应用程序利用了支持网络结构和相关属性信息的先进数据结构（即图）。迄今为止，许多基于图的人工智能通过生成隐私保护图数据的方法和传输隐私保护信息（例如图模型参数）的方法来实现基于优化的计算，当在多个参与方之间共享数据是有风险或不可能时。除了讨论相关的理论方法和软件工具外，我们还讨论了当前的挑战，并突出了隐私保护图机器学习的若干未来研究机会。最后，我们构想了一个统一而综合的安全图机器学习系统。

    Jul, 2023

  • 提升机器学习数据隐私保护的最新方法 —— 综述

    探讨隐私保护机器学习（PPML）的兴起及其对各领域的巨大影响，强调在机器学习框架中保护隐私所面临的挑战，讨论当前研究努力，旨在最小化隐私敏感信息和增强数据处理技术，通过应用密码学方法、差分隐私和可信执行环境等隐私保护技术，保护机器学习训练数据防止隐私侵犯，尤其关注 PPML 在敏感领域中的应用及其在保护机器学习系统隐私与安全方面的关键作用。

    Feb, 2024

  • 自主汽车的隐私：风险、保护方法和未来方向

    这篇论文主要探讨了在自动驾驶车辆的机器学习训练中，用户数据的隐私保护问题，提出了涉及个人、群体和机构三个层次的隐私风险分类方法，并总结了当前的解决方案和未来的研究方向。

    Sep, 2022

  • 当机器学习遇到隐私：一份调查与展望

    本文对机器学习与隐私问题进行了综述，涵盖了三种交互方式：(i) 私有机器学习，(ii) 机器学习辅助隐私保护，以及 (iii) 基于机器学习的隐私攻击和相应的保护方案，总结了各个领域内的研究进展和关键挑战，并提出了未来的研究方向。

    Nov, 2020

  • 近似、适应、匿名（3A）：用于机器学习隐私保护训练数据发布的框架

    本文提出了一种数据发布框架 ——3A (Approximate, Adapt, Anonymize)，它能够最大化机器学习的数据效用，同时保持差分隐私与高效性。

    Jul, 2023

  • 领域特定人脸检测的隐私保护在线自动机器学习

    HyperFD 是一种新的面部检测隐私保护在线自动机器学习框架，通过元特征表征数据集，并连续学习元特征提取器来更好地权衡偏差和方差，从而使本地任务能够有效利用先前任务的学习经验。

    Mar, 2022

  • 具有自动转换搜索的隐私保护协作学习

    本论文提出了一种基于数据增强的解决方案，以防止敌对方从共享的梯度中恢复训练数据，文中使用创新的搜索方法发现数据增强策略，并使用两个新的度量指标来评估策略的影响，实验结果表明该方法能够高效地击败现有的重建攻击，对模型性能影响微不足道。

    Nov, 2020

  • 语言模型如何受指导以保护个人信息？

    大规模多模式语言模型已在许多应用中证明具有变革性。然而，这些模型已被证明会记忆和泄漏预训练数据，引发用户隐私和信息安全方面的严重关切。我们介绍了 PrivQA - 一个多模式基准，用于评估在模拟场景中指示模型保护特定类别个人信息时，此隐私 / 效用权衡。我们还提出了一种通过迭代自我调节响应的技术，在很大程度上提高了隐私。通过一系列红队实验，我们发现对手可以通过简单的越狱方法绕过这些保护，使用文本和 / 或图像输入。我们相信 PrivQA 有潜力支持开发具有改进隐私保护和对抗鲁棒性的新模型。我们在指定的网址上发布了整个 PrivQA 数据集。

    Oct, 2023