May, 2023

学习如何忘却：机器遗忘调查

PDF
TL;DR该调查提供了机器遗忘技术的简明评估，概述了准确和近似方法、可疑攻击和验证方法，并比较了每种方法的优点和局限性，评估了它们的性能，突出了挑战性的需求。提供强大的非 IID 删除模型以缓解公平性问题，并指出该领域未来的研究方向，旨在为寻求在 ML 系统中提供隐私和平等的研究人员和从业者提供有价值的资源。
发现论文，激发创造
  • 机器遗忘综述

    本文旨在对机器学习模型中 “遗忘特定数据” 的概念、场景、方法和应用进行综合性探讨，并为研究人员和从业人员提供包括设计标准和算法在内的全面资源，以帮助创新隐私技术和提醒相关研究领域存在的问题。

    Sep, 2022

  • 机器遗忘：一项全面调查

    该研究综述了现有的机器去学习方法，系统地分类并讨论了其差异、联系和开放问题，包括集中式去学习、分布式和不规则数据去学习、去学习验证以及隐私和安全问题，并提出了潜在的研究方向。

    May, 2024

  • 机器遗忘：综述

    通过分类和总结现有的机器遗忘技术的特点，本文综述了机器遗忘技术的关键理念，并讨论了其面临的挑战和未来的研究机会。

    Jun, 2023

  • 机器取消学习：解决方案与挑战

    机器遗忘是一项关键技术，用于选择性地移除训练数据点对训练模型的影响。本文提供了机器遗忘研究的全面分类和分析，并回顾了最新的解决方案，讨论了其优势和限制，并提出了未来的发展方向，以推动机器遗忘作为一项必要的可信和自适应机器学习能力。

    Aug, 2023

  • 传统模型与大型语言模型的机器遗忘：简要调查

    通过提供深入探讨机器消遣技术的定义、分类和评价标准，以及不同环境下的挑战和解决方案，本文对传统模型和大型语言模型上的消遣进行分类和研究，提出了评估消遣效果和效率的方法以及性能测量标准。本文揭示了当前消遣技术的局限性，并强调了全面的消遣评估的重要性，以避免随意的遗忘。该调查不仅总结了消遣技术的关键概念，还指出了其突出问题和未来研究的可行方向，为该领域的学者提供了有价值的指导。

    Apr, 2024

  • 机器反学习：分类、度量、应用、挑战与前景

    数字个人数据是一项重要的资产，机器遗忘权利要求模型提供者根据用户的请求删除用户数据，机器去学习涉及到中心化和分布式模型下的去学习算法、近似去学习、验证和评估指标、不同应用中的去学习挑战和解决方案、以及针对机器去学习的攻击，期望通过全面调研描绘机器去学习领域的最新进展，并为未来研究提供方向。

    Mar, 2024

  • 遗忘而不被遗忘：机器遗忘的改进基准

    机器学习模型存在安全漏洞，包括泄漏关于模型的训练数据的攻击。该研究探讨如何在隐私保护问题中有效应对数据删除需求，通过有效更新已训练模型的机器遗忘算法，以维持模型性能，避免重新训练模型的代价。本文提出了替代性的算法评估方法，通过针对图像识别数据集的实验，对当前机器遗忘算法进行更详细的评估，展示了该领域的最新状况。

    May, 2024

  • 机器学习退训对隐私的危害

    本文研究机器取消学习对隐私的影响，并通过提出新型会员推理攻击来论证了取消学习会留下数据迹象，从而产生意外隐私风险。我们提出了四种方法来减轻这些隐私风险，包括发布预测标签，温度缩放和差分隐私。

    May, 2020

  • 公平的机器遗忘：数据去除与减轻偏差

    在本研究中，我们提出了第一个可以证明并高效地消除数据实例并保持公平性的机器遗忘方法。通过理论结果和对真实世界数据集的广泛实验，我们展示了我们的方法在消除数据实例的同时保持公平性的功效。

    Jul, 2023

  • 文档分类的机器去学习

    研究论述了文档理解模型在用户文档集合的基础上取得的显著性能，介绍了机器遗忘的新方法，探索了将其应用于文档分类问题以解决隐私问题，并提供了公开可用的代码。

    Apr, 2024