Mar, 2022

基于采样贝叶斯推理中的知识去除

PDF
TL;DR研究讨论在人工智能领域中实施遗忘权利将会引起难以承受的成本问题，该论文提出了用于 Markov chain Monte Carlo （简称 MCMC）的机器遗忘算法，第一次将 MCMC 反向推导为明确的最优化问题，通过 MCMC 引导函数确定遗忘的知识来达到遗忘的目的，并证明该算法不会损害 MCMC 模型的泛化能力。
right to be forgottenai industrymachine unlearning algorithmmarkov chain monte carlomcmc models
发现论文，激发创造
  • 贝叶斯推断遗忘

    该论文提出了一种基于贝叶斯推断的遗忘框架（BIF），旨在实现被遗忘权利。BIF 框架提供了遗忘算法，可以从学习模型中删除个别数据的影响，并且理论分析证明了算法的泛化性，实验表明了该方法的可行性。

    Jan, 2021

  • 基于马尔可夫链蒙特卡罗的机器遗忘：遗忘需要被遗忘的内容

    本文提出了一种基于 MCU 算法的机器学习模型快速且高效地去除数据子集的方案，并利用 MCU 鉴别和标志对模型预测产生影响的对抗或隐私数据。实验表明，MCU 可以从训练数据集的子集中有效地去除模型的影响，并优于现有的算法。

    Feb, 2022

  • 零样本机器遗忘

    本論文提出了一個名為 Zero-shot 機器學習的新問題，探討如何從 MOD 交易所中刪除特定集合或類別的數據，介紹一種基於誤差最小化最大化噪音和門控知識傳遞的解決方案，實驗結果在基準視覺數據集上展示了良好的效果。

    Jan, 2022

  • 机器学习退训对隐私的危害

    本文研究机器取消学习对隐私的影响，并通过提出新型会员推理攻击来论证了取消学习会留下数据迹象，从而产生意外隐私风险。我们提出了四种方法来减轻这些隐私风险，包括发布预测标签，温度缩放和差分隐私。

    May, 2020

  • 基于随机教师网络的机器去学习方法学

    使用随机网络作为教师，可以快速减轻被遗忘数据对模型的影响，实现模型的一次性擦除和重构，并取得与重新训练后模型相同的性能。

    Aug, 2023

  • 贝叶斯去学习的挑战与陷阱

    本文讨论了机器遗忘、贝叶斯遗忘、拉普拉斯近似和变分推断在神经网络回归任务中的应用及相关启示。

    Jul, 2022

  • 机器遗忘综述

    本文旨在对机器学习模型中 “遗忘特定数据” 的概念、场景、方法和应用进行综合性探讨，并为研究人员和从业人员提供包括设计标准和算法在内的全面资源，以帮助创新隐私技术和提醒相关研究领域存在的问题。

    Sep, 2022

  • 学习如何忘却：机器遗忘调查

    该调查提供了机器遗忘技术的简明评估，概述了准确和近似方法、可疑攻击和验证方法，并比较了每种方法的优点和局限性，评估了它们的性能，突出了挑战性的需求。提供强大的非 IID 删除模型以缓解公平性问题，并指出该领域未来的研究方向，旨在为寻求在 ML 系统中提供隐私和平等的研究人员和从业者提供有价值的资源。

    May, 2023

  • 公平的机器遗忘：数据去除与减轻偏差

    在本研究中，我们提出了第一个可以证明并高效地消除数据实例并保持公平性的机器遗忘方法。通过理论结果和对真实世界数据集的广泛实验，我们展示了我们的方法在消除数据实例的同时保持公平性的功效。

    Jul, 2023

  • 变分贝叶斯去除学习

    本研究使用变分推断（VI）框架，提出两种新方法解决从少量数据集中删除数据来约略取消贝叶斯模型的后验置信度的问题，并在合成和现实世界的数据集上用对数回归和稀疏高斯过程等贝叶斯模型进行了实证研究。

    Oct, 2020