攻击和重置用于遗忘：通过参数重新初始化对机器遗忘的敌对噪声开发

Jan, 2024

攻击和重置用于遗忘：通过参数重新初始化对机器遗忘的敌对噪声开发

Attack and Reset for Unlearning: Exploiting Adversarial Noise toward Machine Unlearning through Parameter Re-initialization

PDF

Yoonhwa Jung, Ikhyun Cho, Shun-Hsiang Hsu, Julia Hockenmaier

TL;DR通过攻击和屏蔽网络参数中的特定信息，我们提出了一种名为 ARU 的新方法，该方法使用精心设计的对抗性噪声生成参数屏蔽，有效地重置某些参数，使其无法再进行学习。通过利用对抗性噪声来制作屏蔽，我们在两个面部机器遗忘基准数据集 MUFAC 和 MUCAC 上取得了超越当前最先进结果的表现。我们的研究在通过参数重新初始化实现使数据无法被深度学习模型利用方面取得了重大进展。

Abstract

With growing concerns surrounding privacy and regulatory compliance, the concept of machine unlearning has gained prominence, aiming to selectively forget or erase specific learned information from a trained mode

machine unlearning regulatory compliance adversarial noise parameter mask facial machine-unlearning benchmark datasets

发现论文，激发创造

判别对抗解除

自介绍一个新颖的机器遗忘框架，基于最小 - 最大优化范式的既定原理，并 capitalized on strong Membership Inference Attacks（MIA）的能力来促进从训练模型中遗忘特定样本。

Feb, 2024

有针对性的重学习攻击对未学习的模型进行记忆激活

机器不学习是一种减轻机器学习模型中训练数据不良记忆的有希望的方法。然而，在这项工作中，我们显示出现有的 LLMs 取消学习方法意外地容易受到一组简单有针对性的重新学习攻击的影响。通过仅访问少量可能松散相关的数据集，我们发现可以 “调整” 取消学习模型的记忆以逆转取消学习的效果。我们系统地阐述了这种取消学习 - 重新学习流程，探索了三个流行的取消学习基准测试中的攻击，并讨论了我们研究的结果产生的未来方向和指南。

Jun, 2024

对抗式机器遗忘

该论文提出了一个游戏理论框架，将成员推理攻击（MIAs）与机器遗忘算法的设计整合在一起，从而以对抗性的方式主动地将攻击纳入算法设计中，利用隐式微分限制攻击者的成功，以实现从模型中遗忘特定的训练数据。

Jun, 2024

适应后遗忘：利用参数空间语义在生成对抗网络中进行遗忘

通过适应性调整和去学习的方法防止深度生成模型生成含有不需要的特征，并维持生成样本的质量。

Sep, 2023

难以忘怀：基于认证机器遗忘的毒化攻击

本文研究用户信息的删除和机器去学习概念，阐述了目前保证用户隐私的方法以及可能出现的潜在攻击方式，其中特别探讨了有意设计的训练数据能触发完全重新训练的中毒攻击。

Sep, 2021

机器遗忘中的威胁、攻击与防御：一项综述

机器去学习的关键概念、影响因素和机制的综述，提供对威胁和防御的分类、方法和解决方案的建议，以促进未来研究和实际应用的发展。

Mar, 2024

联邦学习中背门攻击对抗鲁棒性软化

在数据驱动的背景下，保护用户隐私与释放数据潜力之间的微妙平衡成为一个重要关注点。联邦学习作为一种能够在不共享数据的情况下进行协同模型训练的隐私中心解决方案逐渐崭露头角。本研究通过对恶意攻击与后门攻击在联邦学习中的相互作用进行调查，引入了 Adversarial Robustness Unhardening（ARU）。ARU 是一种被某一部分攻击者使用的方法，通过在分散的训练过程中故意破坏模型的健壮性，使其容易受到更广泛的逃避攻击。我们进行了大量的实证实验，评估了 ARU 对抗性训练和现有的抵御恶意攻击和后门攻击的聚合防御策略的影响。我们的研究结果为提升 ARU 以应对当前的防御措施提供了策略，并突显了现有防御策略的局限性，以增强对抗 ARU 的防御能力。

Oct, 2023

扩散模型中鲁棒概念抹除的对抗训练防御性遗忘

通过将对抗训练 (AT) 的原则融入机器遗忘的过程，本研究提出了一种稳健遗忘框架（AdvUnlearn），以提高概念遗忘的鲁棒性。通过实验证明，在各种概念遗忘场景中，AdvUnlearn 在鲁棒性上的优势，以及与模型效用之间的平衡取得了成功。

May, 2024

朝向自然机器遗忘

机器遗忘通过从预训练模型中消除已学习的特定训练数据，即遗忘数据，以达到消除知识的目的。当前，现有的机器遗忘方法主要是通过修改遗忘数据的标签，并对模型进行微调来实现。然而，这种学习错误信息的过程是不自然的，并且不希望通过不必要地强化错误信息而导致超过遗忘。为了实现更加自然的机器遗忘，我们将剩余数据中的正确信息注入到遗忘样本中，改变其标签。通过将调整后的样本与其标签配对，模型会倾向于使用注入的正确信息，并自然地抑制应该遗忘的信息。尽管这是一个简单的步骤，但这对于自然机器遗忘来说是一个重要的第一步，并且在大幅减少过度遗忘和提高对超参数的鲁棒性方面表现出色，因此具有实际机器遗忘的潜力。

May, 2024

基于马尔可夫链蒙特卡罗的机器遗忘：遗忘需要被遗忘的内容

本文提出了一种基于 MCU 算法的机器学习模型快速且高效地去除数据子集的方案，并利用 MCU 鉴别和标志对模型预测产生影响的对抗或隐私数据。实验表明，MCU 可以从训练数据集的子集中有效地去除模型的影响，并优于现有的算法。

Feb, 2022