Nov, 2023

ERASER：MLaaS 中基于推理服务感知的机器消除

PDF
TL;DR提出了 ERASER 框架，通过一个推理服务意识的方法来实现 MLaaS 中的机器解学习。ERASER 提供了一种新颖的认证推理一致性机制，通过有选择性地延迟来自数据所有者的解学习请求，从而降低推理延迟，并严格遵守 RTBF 原则。在各种设置下进行了大量实证评估，确认了 ERASER 的效果，例如，它可以有效节省高达 99% 的推理延迟和 31% 的计算开销。
machine learning-as-a-servicemlaasmachine unlearning methodsprivacy vulnerabilitieseraser framework
发现论文，激发创造
  • 推荐算法遗忘

    本论文提出了 RecEraser，一种针对推荐任务的通用，高效的机器遗忘框架，该框架将培训集分为多个分片，并为每个分片训练一个组成模型。通过三种新颖的数据分区算法将培训数据分成基于它们相似性的平衡组，然后提出一种自适应聚合方法来提高全局模型效用，实验结果表明，RecEraser 不仅可以实现高效的遗忘，而且在模型效用方面也优于最先进的遗忘方法。

    Jan, 2022

  • LMEraser：通过自适应提示调整进行大模型消除

    为了满足对机器学习隐私保护的不断增长需求，我们提出了一种名为 LMEraser 的适用于大型模型的新颖高效的机器去学习方法。LMEraser 采用分治策略和提示调整架构来隔离数据影响，并实现训练数据集的适应性分区，从而显著降低去学习成本且保持模型性能。与以往研究相比，LMEraser 实现了 100 倍的去学习成本减少而不影响准确性。

    Apr, 2024

  • 图形遗忘

    本文提出了一种专门针对图数据的新型机器取消学习框架 GraphEraser，包括两种新颖的图分区算法和一种基于学习的聚合方法。研究表明，与 SISA 相比，GraphEraser 在取消学习效率和模型效用方面都具有较大优势。

    Mar, 2021

  • 机器遗忘中的威胁、攻击与防御：一项综述

    机器去学习的关键概念、影响因素和机制的综述，提供对威胁和防御的分类、方法和解决方案的建议，以促进未来研究和实际应用的发展。

    Mar, 2024

  • 上下文学习中的不可学习算法

    机器去学习是一项理想的操作，然而实现精确的去学习是具有挑战性或低效的，这篇论文关注于大型语言模型的任务适应阶段的高效去学习方法，并提供了一种算法来选择少量训练样本进行任务适应，最终得出在上下文学习方面比微调方法更有优势的结论。

    Feb, 2024

  • 近似机器遗忘是否得到适当评估？从审计到副作用

    通过引入明确定义和有效的度量标准来解决黑箱取消学习审核任务的挑战，该论文分析了当前近似机器取消学习算法的实用性、韧性和公平性，并旨在将数据遗忘的理论权利转化为可审计的现实。

    Mar, 2024

  • 暗影中的曙光：利用成员推断进行机器去学习

    通过创造一种新的损失函数，将目标分类损失和成员推断损失相结合，用于从神经网络中删除敏感信息的机器遗忘机制，本研究通过成员推断机制作为概念验证，提供了实验证据，证明了我们的遗忘方法在遗忘效果、延迟和主要任务准确性方面的优越性。

    Jul, 2024

  • 机器遗忘的概率验证

    该研究提出了一种形式化框架，用于设计验证机制，以验证系统服务提供商是否遵守数据删除请求，该机制基于标准假设检验，提出了一种基于后门的验证机制，可以高度确认数据删除，即使只有 5％的用户参与验证。

    Mar, 2020

  • 学习如何忘却：机器遗忘调查

    该调查提供了机器遗忘技术的简明评估，概述了准确和近似方法、可疑攻击和验证方法，并比较了每种方法的优点和局限性，评估了它们的性能，突出了挑战性的需求。提供强大的非 IID 删除模型以缓解公平性问题，并指出该领域未来的研究方向，旨在为寻求在 ML 系统中提供隐私和平等的研究人员和从业者提供有价值的资源。

    May, 2023

  • 机器遗忘综述

    本文旨在对机器学习模型中 “遗忘特定数据” 的概念、场景、方法和应用进行综合性探讨，并为研究人员和从业人员提供包括设计标准和算法在内的全面资源，以帮助创新隐私技术和提醒相关研究领域存在的问题。

    Sep, 2022