Jun, 2024

我们在忘却方面取得进展吗？来自首个 NeurIPS 忘却竞赛的发现

PDF
TL;DR我们提供了第一个关于 unlearning 的 NeurIPS 竞赛结果，分析了顶尖解决方案并深入讨论了 benchmarking 和算法开发在这一重要领域的进展。
neuripsunlearningevaluation methodologybenchmarkingalgorithm development
发现论文，激发创造
  • 遗忘而不被遗忘：机器遗忘的改进基准

    机器学习模型存在安全漏洞，包括泄漏关于模型的训练数据的攻击。该研究探讨如何在隐私保护问题中有效应对数据删除需求，通过有效更新已训练模型的机器遗忘算法，以维持模型性能，避免重新训练模型的代价。本文提出了替代性的算法评估方法，通过针对图像识别数据集的实验，对当前机器遗忘算法进行更详细的评估，展示了该领域的最新状况。

    May, 2024

  • 如何应对忘却困难问题

    机器遗忘是从训练模型中删除某个子集（即 “遗忘集”）的效果，而不损害模型的效用，例如遵守用户要求删除他们的数据，或删除错误标记、被污染或其他有问题的数据。本文通过调查两个影响遗忘难度和算法性能的关键因素，发现基于这些因素的遗忘集评估揭示了先进算法的新行为，从而改善了顶级的遗忘算法。

    Jun, 2024

  • 评估 LLMs 中强化遗忘的八种方法

    通过综合测试现有评估方法，我们对 Eldan and Russinovich（2023）的 “Who's Harry Potter” 模型进行了严格评估，发现它在 “熟悉度” 度量下表现良好，可靠地提取大量超越基准的知识，并与原始模型在 Harry Potter 问答任务和潜在知识表示等方面具有可比性，同时存在相关领域的副作用遗忘，结果强调了全面的遗忘评估的重要性，避免使用临时指标。

    Feb, 2024

  • 使用参数化知识痕迹对去学习进行内在评估

    通过对概念向量及其参数化知识痕迹的独立评估，我们发现现有的去学习方法对概念向量的影响较小，而直接删除这些向量则显著降低了大型语言模型对对抗操纵的敏感性，突显了基于行为的去学习评估存在的局限性并呼吁未来的研究考虑参数化评估。

    Jun, 2024

  • 可靠的经验式机器去学习评估：博弈论视角

    这项研究提出了一种新的、可靠的方法来实证评估机器遗忘算法，为更有效的遗忘技术的发展铺平了道路。

    Apr, 2024

  • 机器取消学习：解决方案与挑战

    机器遗忘是一项关键技术，用于选择性地移除训练数据点对训练模型的影响。本文提供了机器遗忘研究的全面分类和分析，并回顾了最新的解决方案，讨论了其优势和限制，并提出了未来的发展方向，以推动机器遗忘作为一项必要的可信和自适应机器学习能力。

    Aug, 2023

  • 上下文学习中的不可学习算法

    机器去学习是一项理想的操作，然而实现精确的去学习是具有挑战性或低效的，这篇论文关注于大型语言模型的任务适应阶段的高效去学习方法，并提供了一种算法来选择少量训练样本进行任务适应，最终得出在上下文学习方面比微调方法更有优势的结论。

    Feb, 2024

  • 近似机器遗忘是否得到适当评估？从审计到副作用

    通过引入明确定义和有效的度量标准来解决黑箱取消学习审核任务的挑战，该论文分析了当前近似机器取消学习算法的实用性、韧性和公平性，并旨在将数据遗忘的理论权利转化为可审计的现实。

    Mar, 2024

  • 图形遗忘：一项综述

    通过系统地回顾图解学习的方法，本综述论文旨在增进对新加入该领域的研究人员的理解，与差分隐私建立关联，探索其在不同领域的应用，以增强数据隐私和增强人工智能系统的鲁棒性，并鼓励进一步研究和创新，从而推动图解学习领域的发展。

    Aug, 2023

  • 机器遗忘：一项全面调查

    该研究综述了现有的机器去学习方法，系统地分类并讨论了其差异、联系和开放问题，包括集中式去学习、分布式和不规则数据去学习、去学习验证以及隐私和安全问题，并提出了潜在的研究方向。

    May, 2024