Oct, 2020

遗忘机器学习

PDF
TL;DR该研究论文详细介绍了新颁布的 GDPR 法对机器学习模型隐私保护的重要性，针对深度神经网络模型容易遭受信息泄漏攻击的问题提出了 Unlearning 和 Amnesiac Unlearning 两种数据删除方法，实验证明这两种方法可行、安全。
right to be forgottengeneral data protection regulationdeep neural network modelsmodel inversion attackmembership inference attack
发现论文，激发创造
  • 机器学习退训对隐私的危害

    本文研究机器取消学习对隐私的影响，并通过提出新型会员推理攻击来论证了取消学习会留下数据迹象，从而产生意外隐私风险。我们提出了四种方法来减轻这些隐私风险，包括发布预测标签，温度缩放和差分隐私。

    May, 2020

  • 机器遗忘的概率验证

    该研究提出了一种形式化框架，用于设计验证机制，以验证系统服务提供商是否遵守数据删除请求，该机制基于标准假设检验，提出了一种基于后门的验证机制，可以高度确认数据删除，即使只有 5％的用户参与验证。

    Mar, 2020

  • 公平的机器遗忘：数据去除与减轻偏差

    在本研究中，我们提出了第一个可以证明并高效地消除数据实例并保持公平性的机器遗忘方法。通过理论结果和对真实世界数据集的广泛实验，我们展示了我们的方法在消除数据实例的同时保持公平性的功效。

    Jul, 2023

  • 零样本机器遗忘

    本論文提出了一個名為 Zero-shot 機器學習的新問題，探討如何從 MOD 交易所中刪除特定集合或類別的數據，介紹一種基於誤差最小化最大化噪音和門控知識傳遞的解決方案，實驗結果在基準視覺數據集上展示了良好的效果。

    Jan, 2022

  • 学习如何忘却：机器遗忘调查

    该调查提供了机器遗忘技术的简明评估，概述了准确和近似方法、可疑攻击和验证方法，并比较了每种方法的优点和局限性，评估了它们的性能，突出了挑战性的需求。提供强大的非 IID 删除模型以缓解公平性问题，并指出该领域未来的研究方向，旨在为寻求在 ML 系统中提供隐私和平等的研究人员和从业者提供有价值的资源。

    May, 2023

  • 机器学习中的数据删除：让人工智能忘掉您

    研究了如何在不影响模型质量的情况下，有效地删除机器学习模型中的个人数据，针对 k-means 聚类模型，提出了两个可靠且高效的删除算法，平均删除效率提高了 100 倍以上。

    Jul, 2019

  • 企业级机器去学习中的数据删除

    介绍了一种深度神经网络模型生命周期维护过程，使用成员推理攻击作为合规工具来减少重新训练模型的必要性并实现使用数据清除请求。

    Dec, 2020

  • 文档分类的机器去学习

    研究论述了文档理解模型在用户文档集合的基础上取得的显著性能，介绍了机器遗忘的新方法，探索了将其应用于文档分类问题以解决隐私问题，并提供了公开可用的代码。

    Apr, 2024

  • 机器遗忘综述

    本文旨在对机器学习模型中 “遗忘特定数据” 的概念、场景、方法和应用进行综合性探讨，并为研究人员和从业人员提供包括设计标准和算法在内的全面资源，以帮助创新隐私技术和提醒相关研究领域存在的问题。

    Sep, 2022

  • 基于随机教师网络的机器去学习方法学

    使用随机网络作为教师，可以快速减轻被遗忘数据对模型的影响，实现模型的一次性擦除和重构，并取得与重新训练后模型相同的性能。

    Aug, 2023