- 标签平滑改善机器反学习
该论文介绍了 UGradSL,一种使用平滑标签的简单且易于使用的机器遗忘方法,通过理论分析和实验证明了适当引入标签平滑如何提高机器遗忘性能,并且证明了 UGradSL 在不牺牲计算效率的情况下,能够在多个数据集上显著改善机器遗忘性能。
- 校准对齐:审计下的对照学习机器取消学习
机器反学习在对比学习领域的方法存在不足,本文提出了机器对比学习反学习的框架和新的校准方法,以实现准确的反学习效果和黑盒审计可视化。
- 如何应对忘却困难问题
机器遗忘是从训练模型中删除某个子集(即 “遗忘集”)的效果,而不损害模型的效用,例如遵守用户要求删除他们的数据,或删除错误标记、被污染或其他有问题的数据。本文通过调查两个影响遗忘难度和算法性能的关键因素,发现基于这些因素的遗忘集评估揭示了先 - 机器遗忘的重构攻击:简单模型易受攻击
机器遗忘是出于对数据自治的渴望:一个人可以要求使其数据在部署模型中的影响消失,并且这些模型应该更新,就像重新训练而没有该人的数据一样。然而,我们展示出这些更新与个人之间会暴露出高精度的重构攻击,这使得攻击者可以完整地恢复其数据,即使原始模型 - 评估遗忘模型的信息论度量
机器反学习(MU)通过从训练模型中删除有关 “遗忘数据” 样本的信息来解决隐私问题。我们质疑使用现有的评估方法是否有效,并提出了一种量化中间特征中关于遗忘数据样本的剩余信息的度量指标,称为信息差异指数(IDI),以更好地评估 MU 方法。I - 区块链增强的机器遗忘的联邦学习:一种可信赖的方法
整合区块链技术和联邦学习以应对隐私合规和用户数据删除请求的需求,该研究论文探讨了传统遗忘方法的不足之处,并介绍了一种将区块链与联邦学习融合的框架,以确保遗忘请求和行动的不可变记录,并提升数据安全性和隐私保护,以及优化数据管理以保证物联网环境 - 扩散模型中鲁棒概念抹除的对抗训练防御性遗忘
通过将对抗训练 (AT) 的原则融入机器遗忘的过程,本研究提出了一种稳健遗忘框架(AdvUnlearn),以提高概念遗忘的鲁棒性。通过实验证明,在各种概念遗忘场景中,AdvUnlearn 在鲁棒性上的优势,以及与模型效用之间的平衡取得了成功 - 通过概念领域修正和概念保持梯度,从扩散模型中去除概念
通过对抗训练对齐敏感概念和锚定概念的输出领域,提出了一种用于扩展模型对概念擦除的概念领域校正框架,并且基于梯度修剪设计了一个能够减轻卸载梯度中与重新学习梯度相矛盾的部分的概念保留方案,从而在保留模型效用的同时解决了扩散模型中概念卸载的挑战问 - 大型语言模型中的机器遗忘
机器遗忘是人工智能中的一个新领域,专注于解决在机器学习模型中有选择地遗忘或减少不良知识或行为的挑战,特别是在大型语言模型(LLM)的背景下。本文介绍了一种使用梯度上升算法对 LLM 进行对齐的方法,以便符合伦理、隐私和安全标准,并目标性地删 - 朝向自然机器遗忘
机器遗忘通过从预训练模型中消除已学习的特定训练数据,即遗忘数据,以达到消除知识的目的。当前,现有的机器遗忘方法主要是通过修改遗忘数据的标签,并对模型进行微调来实现。然而,这种学习错误信息的过程是不自然的,并且不希望通过不必要地强化错误信息而 - 通过概念推断和数据注入进行复杂数据的类别机器遗忘
在当前人工智能时代中,用户可能要求 AI 公司从训练数据集中删除他们的数据以保护隐私。作为模型所有者,重新训练模型将消耗大量计算资源。因此,机器遗忘是一种新兴的技术,允许模型所有者删除请求的训练数据或一个类别,对模型性能影响较小。然而,对于 - 擦除以增强:MRI 重建中的高效数据清除
在医学图像转换中,机器消除学习是可能的,可以用于处理偏见移除,同时保持高性能。
- 信息瓶颈的去除:系统模式与偏见的机器去除
通过引入信息瓶颈的方法,我们提出了一个能有效消除系统模式和偏见的机器遗忘框架,在迁移学习中进行模型参数的动态调整,以便高效准确地移除过时或不需要的数据模式和偏见。
- 单图像去学习:多模态大型语言模型中高效的机器去学习
通过建立大规模多模态语言模型(Multimodal Large Language Models)的遗忘模型,研究了 “机器遗忘”(Machine unlearning)中的视觉数据遗忘问题,提出了一种高效的方法 Single Image U - 迁移遗忘的数据选择
深度学习模型、机器取消学习、迁移取消学习、数据筛选、测试准确率。
- 机器遗忘:一项全面调查
该研究综述了现有的机器去学习方法,系统地分类并讨论了其差异、联系和开放问题,包括集中式去学习、分布式和不规则数据去学习、去学习验证以及隐私和安全问题,并提出了潜在的研究方向。
- 对比学习中的机器去学习
我们介绍了一种基于梯度约束的新方法,用于有效实现机器遗忘,无需大量训练周期和仅需要标识待遗忘数据,该方法在对比学习模型和监督学习模型上表现出色,展示了其在各种学习范式中的多功能性和适应性。
- 文档分类的机器去学习
研究论述了文档理解模型在用户文档集合的基础上取得的显著性能,介绍了机器遗忘的新方法,探索了将其应用于文档分类问题以解决隐私问题,并提供了公开可用的代码。
- IJCAI基于零空间校准的机器去学习
通过介绍机器学习中的 Null Space Calibration (UNSC),本文解决了机器遗忘中的过度遗忘问题,并通过在遗忘过程中校准决策空间,显著改善了模型在剩余样本上的性能。
- 隐私保护的数据增强与机器遗忘实现的去偏移
我们提出了一种有效的数据增强和机器遗忘的组合方法,可以减少数据偏差并提供对已知攻击的可证明防御。具体而言,我们利用基于扩散的数据增强来维护训练模型的公平性,并利用多分片遗忘来从机器学习模型中删除原始数据的识别信息,以保护隐私免受攻击。通过对